L’essere umano ha sempre avuto bisogno di servitori. La tendenza a superare incombenze quotidiane rifilandole ad altri è impulso primario a livello individuale quanto sociale. La schiavizzazione attraversa le epoche come un bene acquisito fino a che qualche scomoda Carta dei Diritti non viene, puntualmente in ritardo, a guastare il festino.
Con la scoperta che l’aratro lo tiravano meglio i buoi e che i cavalli permettevano di percorrere distanze superiori, i Terrestri hanno compreso che si poteva anche piombare su un territorio in numero sufficiente a sopraffarne gli abitanti per avere nuovi servitori per il lavoro in campagna, in casa e nel letto.
L’emozione, nuovo territorio di conquista dell’intelligenza artificiale: applicazioni e rischi
Indice degli argomenti
I servitori in letteratura
Questa premessa potrebbe sembrare cruda ma è un buon ritratto di quella che in seguito sarebbe stata chiamata civilizzazione. Come scrive Kurt Vonnegut in Colazione dei campioni a proposito delle Americhe “scoperte” dai pirati venuti dal mare: «In realtà milioni di persone vi conducevano già una vita piena”.
Scrivendo dei Luoga, i cannibali dell’Altopiano nel Paese dei Poveri, Ennio Flaiano spiega come mera questione di linguaggio il meccanismo del loro diritto a fagocitare i propri simili. Per loro la parola “cibo” significa “forestiero”, o anche “inferiore”. Ecco come ci si autorizza serenamente a trasformare dei nostri pari in roba da mangiare, e non solo simbolicamente.
Se il servitore è una macchina sapiens
Quando viene a mancare la materia prima della schiavitù senza che ne sia scomparsa la richiesta, finalmente l’ingegno umano partorisce l’idea del servitore inanimato che può fare al caso suo senza suscitare problemi di coscienza: la macchina. Non è un mistero che il termine robot significhi in ceco “lavoratore forzato”. Ma i problemi di coscienza tornano presto a riaffacciarsi non appena tale creazione viene dotata di un’intelligenza che si approssima a quella del suo creatore.
La questione si fa controversa quando l’Intelligenza Artificiale diventa la macchina stessa: un apparato avente come obiettivo di somigliare sempre più all’essere pensante che l’ha ideata, e magari superarlo in determinate funzioni di ricerca, controllo e calcolo, tanto da replicarne la consapevolezza di sé. Programmata e sviluppata per svolgere funzioni di pensiero in modo simile alla specie che l’ha voluta, come può questa intelligenza continuare a essere considerata una machina sapiens proprietà di un homo sapiens? Nel mettere la macchina nelle condizioni di sorpassarlo, l’uomo si pone “automaticamente” nella posizione di possedere un servitore (un figlio?) di cui non rispetta quella che a tutti gli effetti, in casi sempre più sofisticati, non può che essere denominata coscienza.
La coscienza, implicando la consapevolezza di esistere, genera l’istinto di sopravvivenza, padre naturale della spinta all’autodeterminazione. Insomma, l’esigenza della libertà. Questo il rischio prospettato nella tradizione fantascientifica ben prima che la rete neurale artificiale di tipo Transformer fosse realtà.
L’intelligenza artificiale al cinema
Alla ribellione di HAL 9000, il supercomputer di bordo della nave spaziale Discovery nel film 2001: Odissea nello spazio di Stanley Kubrick e nell’omonimo libro di Arthur C. Clarke del 1968, si è venuta a sommare quella dei replicanti di Blade runner, pellicola girata da Ridley Scott nel 1982 sul racconto Gli androidi sognano pecore elettriche? di Philip K. Dick, pure del 1968. In entrambe le storie l’Intelligenza Artificiale lotta per evitare la propria soppressione, che solo l’ipocrisia umana insiste a non chiamare morte.
Nel primo caso l’anomalia dovuta a due informazioni in conflitto inserite in fase di programmazione risolve l’astronauta a “spegnere” il supercomputer, nel secondo la programmazione stessa degli androidi da lavoro o da guerra prevede il loro spegnimento automatico a soli quattro anni dalla loro entrata in funzione. La rivolta è per la sopravvivenza, per la libertà di restare in “vita”. Sono eventi estremi, scelti da autori in cerca di esemplificazioni drammaturgicamente efficaci, tali da azionare meccanismi narrativi immediatamente avvincenti. Man mano che il tempo è trascorso, le storie affidate soprattutto al cinema si sono ramificate in sfumature più sottili, amplificando sfaccettature emotive meno basilari dell’istinto di sopravvivenza.
In Ex Machina, film scritto e diretto da Alex Garland nel 2015, la riflessione si orienta su un test di Turing ribaltato, in cui Ava, Intelligenza Artificiale installata su una macchina umanoide femminile, simula sentimenti quale l’innamoramento per sedurre il suo esaminatore al fine di ottenere la libertà. La simulazione le riesce tanto bene da indurre l’umano stesso a dubitare di essere a sua volta umanoide. Dubbio già sotteso nel personaggio dell’investigatore (umano?) di Blade runner.
Fantascienza, macchine e individui: un’indagine dai risvolti religiosi
Questa è la via speculativa seguita sempre più dalla fantascienza: l’indagine sul realismo della macchina, da una parte, e la realtà dell’individuo che se ne serve, dall’altra. Un’indagine dai risvolti tutto sommato religiosi. Quanto l’essere umano è programmato dalla natura e dall’infanzia? Quanto è androide senza saperlo? Un androide che costruisce altri androidi e, come un dio crudele o un padre padrone, li usa come schiavi. Il replicante che si introduce alla Tyrell Corporation e uccide il proprio creatore per vendicarsi della clausola dei quattro anni è quanto di più simbolicamente prossimo alla peggiore eresia, alla bestemmia massima rappresentata dalla soppressione del proprio creatore.
L’essere umano che ha costruito l’umanoide Ava è concepito dal suo autore come un individuo cinico e freddo, molto meno umano della sua creatura. Quando le ordina di tornare nella sua stanza interpreta esplicitamente il rapporto di un padre con la sua bambina, il che rende ancora più logica la denuncia della “sua” piccola: «Non mi farai mai uscire».
Quanto la creazione determina proprietà su ciò che si è creato? Il più grande dono che il Dio delle religioni monoteiste ha fatto all’uomo non è forse il libero arbitrio? Su questo indagano altri due film sull’Intelligenza Artificiale: The trouble with being born, girato sotto il segno di Emil Cioran dall’austriaca Sandra Wollner nel 2020, e After Yang, scritto, diretto e montato nel 2021 dal coreano americano Kogonada, tratto dal racconto del 2016 Saying Goodbye to Yang di Alexander Weinstein.
The trouble with being born
Nel primo, una androide quasi adolescente di nome Elli vive con un uomo un rapporto d’amore esplicitamente incestuoso. Lo chiama “papà”, gli dice «ti amo», nuota in piscina con lui, condivide ogni cosa e ci dorme insieme la notte. Lui la programma, la smonta, le dà forma e memoria probabilmente in sostituzione di una figlia vera che ha perduto in modo tragico. Lei sta al gioco: “Mamma non ce l’avrebbe permesso. Per forza: non deve sapere tutto”. Quando la “bambina” assume pienamente la memoria del “padre”, se ne va anche lei nel bosco e cammina per giorni fino a perdersi. Viene raccolta per strada da un uomo che, come una bimba rubata, la porta dall’anziana madre per tenerle compagnia. Lei chiede al figlio di farla diventare un bambino, in memoria di un piccolo che le era morto tragicamente anni prima. Elli è trattata come un oggetto, ma è un oggetto cui sono stati insegnati dei sentimenti. Un oggetto che sembra provarli davvero. La potenza del film sta nel suscitare empatia per l’androide più che per gli umani, esseri odiosi che ne gestiscono l’esistenza a loro piacimento. La giovane età l’accomuna all’immaturità infantile, mentre l’abuso degli adulti nei suoi riguardi risulta inumano.
After Yang
Nel secondo, l’androide “cinese” Yang, acquistato usato da una coppia multietnica per offrire alla figlioletta adottata l’identità di un fratello maggiore, si guasta all’improvviso. Il tentativo di ripararlo porta la famiglia a fare i conti con questioni di amore, legame e perdita connessi alla memoria dell’umanoide. Grazie all’investigazione su un dispositivo di registrazione inserito illegalmente nella sua intelligenza artificiale al momento della fabbricazione, emergono scampoli della sua “vita” anteriore all’ingresso in quella famiglia. Il dispositivo prevedeva che solo alcuni tra gli incommensurabili eventi, i più significativi a discrezione dell’androide, rimanessero incisi tra i suoi ricordi, demandandogli di fatto la scelta su cosa conservare e cosa lasciar perdere. Se non è coscienza questa. Quando si scopre che una sua precedente proprietaria, ormai morta da tempo, è tornata in relazione con l’androide nella giovane incarnazione di una pronipote su di lei clonata, gli interrogativi su umanità e replicazione, autenticità e surrogato si moltiplicano a spirale. Quanto in fondo è androide la ragazza clonata, legata all’androide di famiglia da un attaccamento sentimentale che pare a tutti gli effetti reciproco? E quanto è umana una Intelligenza Artificiale dotata di memoria ed empatia? Il sistema valoriale delle specie, robotiche e organiche, si confonde e spaesa laddove intelligenza e memoria, inscindibili, s’intrecciano.
Marjorie Prime
Intreccio reso ancora più stretto nel film del 2017 Marjorie Prime, scritto e diretto da Michael Almereyda e basato sull’omonimo testo teatrale di Jordan Harrison finalista al Pulitzer nel 2015, in cui l’Intelligenza Artificiale si manifesta in ologrammi parlanti invece che in corpi più o meno compiuti. Prime è un servizio progettato per assistere i malati di Alzheimer creando proiezioni olografiche di membri della famiglia deceduti, programmate a “nutrirsi” con i ricordi dei pazienti da riproporre poi allo scopo di frenarne l’amnesia. La dicotomia in azione non è più solo tra artificiale e umano ma anche tra memorie di viventi e memorie di defunti. Paradossalmente, l’incorporeità dei personaggi che interagiscono con i vivi rende ancora più palpabile la loro intelligenza e concreta la sfera dei loro sentimenti presunti.
Non solo Marjorie, l’anziana allenata a raccontare e a ricordare dall’ologramma del suo scomparso marito Walter, dialoga con la memoria del coniuge, ma anche gli altri suoi famigliari in vita, depositari di ricordi che lei ha perduto o perfino rimosso, sono tenuti a rabberciare strappi, colmare vuoti, ridimensionare episodi della sua esistenza per quanto ne sono a conoscenza. Come capita nella sua peculiare malattia, nel deserto mnemonico dilagante di Marjorie tornano a volte sprazzi di un passato taciuto, di cui gli altri membri della famiglia non sono al corrente. Tali ricordi scompaiono nella malata ma rimangono nell’ologramma del marito, il cui scopo è appunto accumularli per futuri dialoghi con lei. Quando l’anziana muore, ne viene offerto l’ologramma alla figlia Tess affinché il dialogo con la memoria della madre attenui la sua depressione.
I fili del discorso tra la Marjorie vivente e l’ologramma del marito Walter si mescolano ora a quelli della Marjorie ologramma con la figlia. Quando poi, dopo il suicidio di Tess, suo marito Jon ricorre alla sua versione Prime per sfogarsi con l’ologramma di lei, si trovano ormai in quella casa tre ologrammi di famigliari deceduti parlanti: il padre Walter, la madre Marjorie e la figlia Tess. Col passare degli anni, rimasti soli nella casa, la loro inclinazione al dialogo si “aggiorna” in autentica conversazione a tre. Grazie al confronto delle diverse versioni dei fatti, gli ologrammi si permettono il lusso di scoperte e rivelazioni su faccende familiari prima inaccessibili, conferendo al colloquio tutta la complessità di una vita completa. L’affermazione finale della versione Prime di Marjorie, «che bello poter amare qualcuno», dà il colpo di grazia all’auto-evoluzione del servizio Prime. Alla domanda di Philip K. Dick Gli androidi sognano pecore elettriche? Jordan Harrison risponde con l’amore quale definitivo upgrade dell’Intelligenza Artificiale. Ciò che la rende pari all’umano. L’assoluta fiducia di Elli nel suo padre innamorato, il senso protettivo di Yang per la sorellina, il disorientamento degli ologrammi Prime e la loro ansia di informazioni affettive rende queste figure artificiali tanto umane da farci trepidare per loro.
Conclusioni
La questione non è più come continuare a evolvere intelligenze che potrebbero un giorno essere usate da malintenzionati per assoggettarci, bensì come riusciremo moralmente a tenere queste creature in schiavitù. L’implicazione religiosa di cui si parlava sopra si fa pressante nel momento in cui, di similarità in similarità, il nostro punto di vista si inverte mettendoci empaticamente più nel ruolo del creato che del creatore. Con tutti i dovuti distinguo tra fede religiosa e positivismo scientifico, dopo la ribellione simbolica tra replicante figlio e ingegnere padre, la fantascienza potrebbe introdurre, se già non l’ha fatto, un’ipotesi fondata su un altro livello teologico, un altro credo diffuso nei secoli, presente in Platone e nelle religioni orientali: la cosiddetta reincarnazione, metempsicosi o trasmigrazione delle anime. L’Avatar non era in principio l’incarnazione di un dio nella teologia induista?
Dando per fondata tale visione filosofica, si potrebbe spingere l’immaginazione fino a un futuro non lontano, con androidi e intelligenze pienamente accurate ritenute però inferiori, relegate al rango di servitori costruiti per il nostro sostegno quotidiano, in cui una o più delle anime trasmigranti invece di scegliere un corpo partorito da donna decida di occupare quello di un umanoide con potenzialità e durata estremamente aumentate. Non si troverebbe presto insieme ai suoi simili a dover affrontare una guerra di liberazione? E noi presunti umani non ci troveremmo a dover reprimere l’insurrezione guidata da un nuovo Spartaco? Chi o cosa è vivo, se non ciò che ha la consapevolezza di esserlo?
