Vivere per sempre
Intervista a Mark O’Connell, autore di "Essere
una macchina", un reportage dal pianeta transumanista.
Articolo di Andrea
Daniele Signorelli (classe 1982, si
occupa del rapporto tra nuove tecnologie, politica e società. Scrive per La
Stampa, Wired, Il Tascabile, Pagina99 e altri. Nel 2017 ha pubblicato
“Rivoluzione Artificiale: l’uomo nell’epoca delle macchine intelligenti” per
Informant Edizioni) tratto
dalla rivista on-line La Tascabile
“Vi sarà una grande,
abbagliante, certa scienza di tutte le cose, senza errore e inquietudine,
perché lì si berrà la sapienza dalla sua stessa sorgente con somma serenità,
senza difficoltà. Grande perfezione avrà il corpo che, completamente soggetto
allo spirito e da lui con pienezza vivificato, non avrà bisogno di cibi”. Basterebbe sostituire il termine “spirito” con “intelligenza” e quanto
scritto da sant’Agostino ne La Città di Dio (413-426) potrebbe diventare
il motto ufficiale del transumanesimo: un movimento che aspira a superare i
limiti biologici del nostro corpo umano grazie alle innovazioni tecnologiche,
per compiere il grande balzo verso una nuova specie di umanità. Una specie
potenziata dalla tecnologia, in grado di comunicare direttamente con le macchine,
di fondersi con intelligenze artificiali super evolute, di allungare la durata
della vita grazie a terapie mediche, di trascendere il corpo umano ricreando
copie digitali del nostro cervello e, infine, raggiungere ciò che è sempre
stata l’aspirazione massima di numerose religioni: offrire nuova speranza di
vita dopo la morte fisica. Messa così, il transumanesimo sembra porsi come
una nuova religione, in cui la possibilità dell’esistenza dopo la morte non ha
niente a che fare con la fede o con i concetti di anima e spirito ma è, al
contrario, una conseguenza logica, quasi inevitabile, dei nostri progressi
medici e tecnologici. “Il rapporto tra religione e transumanesimo è una delle
questioni centrali”, spiega al Tascabile Mark O’Connell, autore di Essere una
Macchina (Adelphi, 2018), un
reportage dal pianeta transumanista. “Eppure, le conferenze a cui ho assistito
in cui questi due mondi venivano direttamente associati avevano sempre
pochissimi partecipanti; perché boicottate dalla maggior parte dei
transumanisti della Bay Area californiana [dove il movimento è nato e che
ancora oggi ne rappresenta il centro]. Generalmente, i transumanisti non
vogliono in alcun modo che si mettano in collegamento religione e
transumanesimo, e ancor meno che il loro movimento venga considerato una forma
di religione”. In effetti, uno dei massimi esponenti del transumanesimo –
incontrato anche da O’Connell, nel libro – è il futurista Max More, che
definisce il movimento “una classe di filosofie che cercano di guidarci verso
una condizione postumana”. Le parole chiave, qui, sono due: filosofia,
cosa ovviamente ben diversa dalla religione, e classe, che indica come
ci possano essere versioni differenti e contrastanti del transumanesimo senza
per questo venir tacciati di apostasia. “È proprio per questo che,
personalmente, non ritengo che il transumanesimo sia una religione e non penso
che i loro aderenti partecipino a una qualche forma di setta”, prosegue
O’Connell. “Non ci sono dogmi, non ci sono cose in cui devi per forza credere;
non verrai mai cacciato dal movimento in quanto eretico”. Inoltre, mi spiega
O’Connell, all’interno del transumanesimo ci sono molti modi diversi di
considerare peso e significato della singolarità tecnologica, quella chimera (o
previsione) fondamentale per ogni futurologo: “punto di non ritorno nel
percorso del progresso rappresentato dalla creazione di intelligenze
artificiali con capacità superiori a quelle umane, un processo che potrebbe anche coincidere con l’estinzione dell’umanità e
l’avvento di una specie post-biologica”, secondo la definizione dell’enciclopedia Treccani, o, in
altre parole, “quel punto in cui tutti i cambiamenti avvenuti nell’arco
dell’ultimo milione di anni saranno superati dal cambiamento che avviene nei
prossimi cinque minuti”, per utilizzare la formula coniata da Kevin Kelly, co-fondatore della rivista Wired. Eppure, in ogni caso, l’attesa che si respira nei
confronti di questa singolarità – che può indicare, a seconda di che ne parla,
l’avvento di una superintelligenza artificiale, la fusione tra
uomo e macchina o il momento in cui
l’evoluzione tecnologica assume un ritmo talmente rapido da impedire all’uomo
qualunque controllo su di essa – è un’attesa quasi messianica (nonostante venga
razionalizzata con bizzarre leggi matematiche, come quella dei ritorni acceleranti). “Sicuramente,
il transumanesimo affronta lo stesso problema che affronta la religione:
trascendere la nostra mortalità”, prosegue lo scrittore, “ma lo traspone
dall’idea di Dio e lo porta nell’ambito tecnologico. Questa, però, è una chiave
di lettura che loro rifiutano, dal momento che si considerano tutti persone
molto logiche, iper razionali”.
Ma è davvero possibile considerare razionali degli individui convinti di poter, un giorno, uploadare la mente nel cloud, fondere umanità e intelligenza artificiale o diventare amortali (ovvero non più soggetti all’invecchiamento, senza eliminare il rischio di morte accidentale) grazie agli sviluppi della medicina e della tecnologia? “Ho avuto un sacco di conversazioni con persone che mi spiegavano come scannerizzare il cervello, o estrarre la coscienza dal corpo umano, in modo sempre logico e rigoroso; al punto da far ritenere che tutto questo potesse davvero avere senso”, ricorda O’Connell. “Facevo fatica a tenere testa alla loro logica progressione degli argomenti, che mi distraeva dalla vera realtà di questa situazione: queste persone stavano parlando di cose assurde”. Per avere un assaggio di come la speculazione logica possa affrontare temi fantascientifici con grande naturalezza, basterebbe leggere La Rivolta delle Macchine di Murray Shanahan in cui si affronta in maniera fredda e analitica, per esempio, la possibilità di conservare la coscienza durante una (teorica) sostituzione integrale dei nostri neuroni con equivalenti artificiali. “È un modo di esporre le proprie tesi che mi fa pensare alla distinzione tra il linguaggio della logica e quello della ragione. E di come il linguaggio della logica possa essere utilizzato per parlare di cose oggettivamente assurde; per esempio, l’idea che si possa vivere per sempre convertendosi in codice”. L’assurdità di cui parla O’Connell non è riferita solo all’effettiva possibilità di realizzare le promesse transumaniste; ma al fatto stesso di porsi ambizioni di questo tipo, di voler davvero trasformare l’uomo in software. “Anche per questa ragione, è difficile separare le parti che mi affascinano del transumanesimo da quelle che mi inquietano; di fatto, sono un tutt’uno. Io sono stato colpito da questo movimento circa dieci anni fa, dopo aver letto un breve articolo a riguardo. Mi aveva attratto il fatto che queste persone – che, come me e come tutti, ritengono inaccettabile l’idea di dover morire – non si fossero limitate a filosofeggiare sulla questione. Al contrario: hanno deciso di rimboccarsi le maniche e fare qualcosa a riguardo, intraprendendo questo progetto prometeico di sconfiggere la morte. Allo stesso tempo, l’idea della vita eterna, di trascendere l’umanità e diventare robot o comunque intelligenze disincarnate… Penso che queste siano visioni del futuro distopiche”. Eppure, a voler ascoltare voci molto potenti (e vicine al movimento transumanista) come quella di Elon Musk, l’uomo dovrà fondersi con le macchine non tanto per sconfiggere la morte, ma anche solo per non essere reso obsoleto dall’avanzata di software e robot sempre più intelligenti. “In verità, questa fusione sta già avvenendo da molto tempo, in un certo senso siamo già simili a dei robot”, precisa lo scrittore. “Se torniamo alla Rivoluzione industriale, le fabbriche venivano progettate per rendere i lavoratori sempre più produttivi e, diciamo così, più robotici. Oggi succede nei depositi di Amazon: lì lavorano persone che non hanno neanche modo di capire come funzionino i magazzini; perché sono organizzati da – e comprensibili solo a – un’intelligenza artificiale. Stiamo diventando macchine anche perché stiamo costruendo un mondo progettato su misura per le macchine, come i magazzini di Amazon”. Ma se l’uomo diventa sempre più simile a una macchina per guadagnare in rapidità ed efficienza; che cosa rischia di perdere? “A mio parere, il pericolo è di perdere tutto”, continua O’Connell. “L’idea che ci si possa convertire in software e ciononostante restare noi stessi mi convince davvero molto poco. C’è una sorta di paradosso in tutto questo: i transumanisti investono talmente tanto nel sé che arrivano a cancellarne la stessa nozione. Quale sarebbe il sé, se diventiamo solo codice? Saremmo solo una rappresentazione binaria di neuroni che emettono o non emettono impulsi, perdendo qualsiasi senso di umanità. La logica rigorosa con cui spiegano come potremmo restare noi stessi anche diventando codice può arrivare solo fino a un certo punto; anche perché, per come la vedo io, la mia vita è il mio corpo”. O’Connell richiama una sensazione che chiunque, da esterno, si sia immerso in queste teorie ha probabilmente avvertito: la sensazione che non basti ascoltare una spiegazione perfettamente logica per afferrare davvero ciò che si sta dicendo. Come se la logica non bastasse e smarrisse lungo la strada una parte di significati (spirituali?) che quando si parla di vita, morte, coscienza e identità rimangono tanto imponderabili quanto fondamentali (senza per questo dover sconfinare nella religione). Nonostante lo scetticismo con cui vengono accolte le loro tesi, però, non si può escludere che abbiano ragione i transumanisti e che davvero l’uomo possa, un giorno, diventare un avatar digitale (è il progetto della 2045 Initiative di Dmitry Itskov) o almeno – un po’ più realisticamente – allungare a dismisura la durata della vita, grazie a progetti come Calico di Bill Maris o la SENS Research di Aubrey De Grey. Il punto, in ogni caso, è anche capire che mondo sarebbe uno in cui alcune persone vivono fino a 500 anni. “L’idea che queste tecnologie possano diventare reali è molto inquietante, perché l’implicazione ovvia è che non saranno disponibili per tutti e che non faranno altro che esacerbare una disuguaglianza che già oggi rappresenta uno dei problemi più gravi della nostra società”, prosegue l’autore di Essere una Macchina. “Quanto può essere costosa una terapia genetica per l’allungamento della vita? Non penso che sia una prospettiva realistica; ma se ne accettiamo le premesse, allora diventa una prospettiva distopica, che porterà giovamento solo all’1% di super ricchi”. Gli altri saranno destinati alla polvere: “Quando è stata posta la questione della disuguaglianza a Peter Thiel [fondatore di PayPal e tra i primi investitori di Facebook, che oggi riversa enormi quantità di denaro per supportare i progetti transumanisti], lui ha risposto che la peggior forma di disuguaglianza a cui possa pensare è tra chi è vivo e chi è morto. Penso che sia un perfetto esempio di questa visione iper razionale – che ha senso logicamente, visto che c’è una grande differenza tra una persona viva e un cadavere – ma che cela dietro di sé una posizione assolutamente folle”. Da un punto di vista politico, forse, il problema è che Peter Thiel e molti altri grandi sostenitori del movimento, come il fondatore di Google Larry Page, non sono solo miliardari, ma anche libertari; e in quanto tali, per definizione, più preoccupati del singolo individuo che della società. Ma perché questo collegamento tra transumanesimo e libertarianesimo? “In verità, ho incontrato ogni tipo di ideologia e di religione. Ci sono socialisti, musulmani, buddisti, cristiani”, specifica O’Connell. “Nonostante questo, sì: c’è una sproporzione di libertari. C’è qualcosa nel transumanesimo che fa presa su una forma estrema di libertarianesimo: la voglia di investire su se stessi, l’estrema importanza data all’individuo; è una cosa molto americana [O’Connell è irlandese]”. Un ruolo importante, in effetti, lo gioca l’aria che si respira nella Silicon Valley: “Il mio è un libro sulla morte, sulla tecnologia, sul capitalismo; ma è anche un libro sulla California. Molti dei personaggi di cui scrivo non sono americani: ci sono svedesi, russi, olandesi, in qualche modo finiti tutti in California; anzi, nella Bay Area, la parte più californiana della California. Non penso che sia un caso che si siano radunati proprio lì, che inseguano la giovinezza eterna fino al punto di farne una convinzione religiosa”. In tutto questo parlare del transumanesimo come una non-religione piena, però di punti di contatto con la classica esperienza religiosa, manca un elemento fondamentale: dov’è Dio? Non c’è più spazio per una vera e propria entità divina in questo mondo razionale fino al fideismo e logico oltre ogni ragione? In verità, non è proprio così. Un elemento che si incastra alla perfezione con la macchinizzazione dell’uomo professata dal transumanesimo è, ovviamente, l’avvento di una super intelligenza artificiale; che molti transumanisti (come l’ingegnere capo di Google Ray Kurzweil, massimo teorico della singolarità, o il già citato Elon Musk) ritengono poter diventare talmente intelligente da superare milioni di volte l’intelligenza umana; raggiungendo di fatto una sorta di onniscienza divina. “È molto interessante l’idea che stiamo cercando di costruire qualcosa che è essenzialmente un Dio, superiore a noi quanto noi siamo superiori ai primati”, conclude O’Connell. “Eppure, trovo poco convincente questa visione del futuro, in cui comparirà una super AI; penso che anche in questo caso si tratti di una credenza quasi religiosa, che dimostra la fede che queste persone hanno nella tecnologia. Inoltre, è come se ci fosse una sorta di determinismo tecnologico in tutto ciò: se l’avvento di una super intelligenza artificiale rappresenta il rischio esistenziale che tanti paventano, non dovremmo forse preoccuparci di regolamentarla? Oppure prendere in considerazione l’ipotesi di non costruirla proprio? Ma, ovviamente, siamo nella Silicon Valley; è quasi impossibile trovare qualcuno che dica: vabbè, forse è meglio lasciar perdere tutto. E, allo stesso tempo, a Washington, a Londra o a Roma, i politici sono alle prese con ben altre preoccupazioni”. Mentre O’Connell parla della fede nella tecnologia, della possibilità (o meno) di costruire queste super intelligenze artificiali, dell’attesa quasi messianica della singolarità, mi torna inevitabilmente in mente il brevissimo racconto di fantascienza pubblicato nel 1954 da Fredric Brown intitolato La Risposta. Brown immagina la costruzione di un “supercomputer galattico” al quale viene chiesto, come prima domanda, se esista Dio. “Adesso sì”, è la sua risposta.
Ma è davvero possibile considerare razionali degli individui convinti di poter, un giorno, uploadare la mente nel cloud, fondere umanità e intelligenza artificiale o diventare amortali (ovvero non più soggetti all’invecchiamento, senza eliminare il rischio di morte accidentale) grazie agli sviluppi della medicina e della tecnologia? “Ho avuto un sacco di conversazioni con persone che mi spiegavano come scannerizzare il cervello, o estrarre la coscienza dal corpo umano, in modo sempre logico e rigoroso; al punto da far ritenere che tutto questo potesse davvero avere senso”, ricorda O’Connell. “Facevo fatica a tenere testa alla loro logica progressione degli argomenti, che mi distraeva dalla vera realtà di questa situazione: queste persone stavano parlando di cose assurde”. Per avere un assaggio di come la speculazione logica possa affrontare temi fantascientifici con grande naturalezza, basterebbe leggere La Rivolta delle Macchine di Murray Shanahan in cui si affronta in maniera fredda e analitica, per esempio, la possibilità di conservare la coscienza durante una (teorica) sostituzione integrale dei nostri neuroni con equivalenti artificiali. “È un modo di esporre le proprie tesi che mi fa pensare alla distinzione tra il linguaggio della logica e quello della ragione. E di come il linguaggio della logica possa essere utilizzato per parlare di cose oggettivamente assurde; per esempio, l’idea che si possa vivere per sempre convertendosi in codice”. L’assurdità di cui parla O’Connell non è riferita solo all’effettiva possibilità di realizzare le promesse transumaniste; ma al fatto stesso di porsi ambizioni di questo tipo, di voler davvero trasformare l’uomo in software. “Anche per questa ragione, è difficile separare le parti che mi affascinano del transumanesimo da quelle che mi inquietano; di fatto, sono un tutt’uno. Io sono stato colpito da questo movimento circa dieci anni fa, dopo aver letto un breve articolo a riguardo. Mi aveva attratto il fatto che queste persone – che, come me e come tutti, ritengono inaccettabile l’idea di dover morire – non si fossero limitate a filosofeggiare sulla questione. Al contrario: hanno deciso di rimboccarsi le maniche e fare qualcosa a riguardo, intraprendendo questo progetto prometeico di sconfiggere la morte. Allo stesso tempo, l’idea della vita eterna, di trascendere l’umanità e diventare robot o comunque intelligenze disincarnate… Penso che queste siano visioni del futuro distopiche”. Eppure, a voler ascoltare voci molto potenti (e vicine al movimento transumanista) come quella di Elon Musk, l’uomo dovrà fondersi con le macchine non tanto per sconfiggere la morte, ma anche solo per non essere reso obsoleto dall’avanzata di software e robot sempre più intelligenti. “In verità, questa fusione sta già avvenendo da molto tempo, in un certo senso siamo già simili a dei robot”, precisa lo scrittore. “Se torniamo alla Rivoluzione industriale, le fabbriche venivano progettate per rendere i lavoratori sempre più produttivi e, diciamo così, più robotici. Oggi succede nei depositi di Amazon: lì lavorano persone che non hanno neanche modo di capire come funzionino i magazzini; perché sono organizzati da – e comprensibili solo a – un’intelligenza artificiale. Stiamo diventando macchine anche perché stiamo costruendo un mondo progettato su misura per le macchine, come i magazzini di Amazon”. Ma se l’uomo diventa sempre più simile a una macchina per guadagnare in rapidità ed efficienza; che cosa rischia di perdere? “A mio parere, il pericolo è di perdere tutto”, continua O’Connell. “L’idea che ci si possa convertire in software e ciononostante restare noi stessi mi convince davvero molto poco. C’è una sorta di paradosso in tutto questo: i transumanisti investono talmente tanto nel sé che arrivano a cancellarne la stessa nozione. Quale sarebbe il sé, se diventiamo solo codice? Saremmo solo una rappresentazione binaria di neuroni che emettono o non emettono impulsi, perdendo qualsiasi senso di umanità. La logica rigorosa con cui spiegano come potremmo restare noi stessi anche diventando codice può arrivare solo fino a un certo punto; anche perché, per come la vedo io, la mia vita è il mio corpo”. O’Connell richiama una sensazione che chiunque, da esterno, si sia immerso in queste teorie ha probabilmente avvertito: la sensazione che non basti ascoltare una spiegazione perfettamente logica per afferrare davvero ciò che si sta dicendo. Come se la logica non bastasse e smarrisse lungo la strada una parte di significati (spirituali?) che quando si parla di vita, morte, coscienza e identità rimangono tanto imponderabili quanto fondamentali (senza per questo dover sconfinare nella religione). Nonostante lo scetticismo con cui vengono accolte le loro tesi, però, non si può escludere che abbiano ragione i transumanisti e che davvero l’uomo possa, un giorno, diventare un avatar digitale (è il progetto della 2045 Initiative di Dmitry Itskov) o almeno – un po’ più realisticamente – allungare a dismisura la durata della vita, grazie a progetti come Calico di Bill Maris o la SENS Research di Aubrey De Grey. Il punto, in ogni caso, è anche capire che mondo sarebbe uno in cui alcune persone vivono fino a 500 anni. “L’idea che queste tecnologie possano diventare reali è molto inquietante, perché l’implicazione ovvia è che non saranno disponibili per tutti e che non faranno altro che esacerbare una disuguaglianza che già oggi rappresenta uno dei problemi più gravi della nostra società”, prosegue l’autore di Essere una Macchina. “Quanto può essere costosa una terapia genetica per l’allungamento della vita? Non penso che sia una prospettiva realistica; ma se ne accettiamo le premesse, allora diventa una prospettiva distopica, che porterà giovamento solo all’1% di super ricchi”. Gli altri saranno destinati alla polvere: “Quando è stata posta la questione della disuguaglianza a Peter Thiel [fondatore di PayPal e tra i primi investitori di Facebook, che oggi riversa enormi quantità di denaro per supportare i progetti transumanisti], lui ha risposto che la peggior forma di disuguaglianza a cui possa pensare è tra chi è vivo e chi è morto. Penso che sia un perfetto esempio di questa visione iper razionale – che ha senso logicamente, visto che c’è una grande differenza tra una persona viva e un cadavere – ma che cela dietro di sé una posizione assolutamente folle”. Da un punto di vista politico, forse, il problema è che Peter Thiel e molti altri grandi sostenitori del movimento, come il fondatore di Google Larry Page, non sono solo miliardari, ma anche libertari; e in quanto tali, per definizione, più preoccupati del singolo individuo che della società. Ma perché questo collegamento tra transumanesimo e libertarianesimo? “In verità, ho incontrato ogni tipo di ideologia e di religione. Ci sono socialisti, musulmani, buddisti, cristiani”, specifica O’Connell. “Nonostante questo, sì: c’è una sproporzione di libertari. C’è qualcosa nel transumanesimo che fa presa su una forma estrema di libertarianesimo: la voglia di investire su se stessi, l’estrema importanza data all’individuo; è una cosa molto americana [O’Connell è irlandese]”. Un ruolo importante, in effetti, lo gioca l’aria che si respira nella Silicon Valley: “Il mio è un libro sulla morte, sulla tecnologia, sul capitalismo; ma è anche un libro sulla California. Molti dei personaggi di cui scrivo non sono americani: ci sono svedesi, russi, olandesi, in qualche modo finiti tutti in California; anzi, nella Bay Area, la parte più californiana della California. Non penso che sia un caso che si siano radunati proprio lì, che inseguano la giovinezza eterna fino al punto di farne una convinzione religiosa”. In tutto questo parlare del transumanesimo come una non-religione piena, però di punti di contatto con la classica esperienza religiosa, manca un elemento fondamentale: dov’è Dio? Non c’è più spazio per una vera e propria entità divina in questo mondo razionale fino al fideismo e logico oltre ogni ragione? In verità, non è proprio così. Un elemento che si incastra alla perfezione con la macchinizzazione dell’uomo professata dal transumanesimo è, ovviamente, l’avvento di una super intelligenza artificiale; che molti transumanisti (come l’ingegnere capo di Google Ray Kurzweil, massimo teorico della singolarità, o il già citato Elon Musk) ritengono poter diventare talmente intelligente da superare milioni di volte l’intelligenza umana; raggiungendo di fatto una sorta di onniscienza divina. “È molto interessante l’idea che stiamo cercando di costruire qualcosa che è essenzialmente un Dio, superiore a noi quanto noi siamo superiori ai primati”, conclude O’Connell. “Eppure, trovo poco convincente questa visione del futuro, in cui comparirà una super AI; penso che anche in questo caso si tratti di una credenza quasi religiosa, che dimostra la fede che queste persone hanno nella tecnologia. Inoltre, è come se ci fosse una sorta di determinismo tecnologico in tutto ciò: se l’avvento di una super intelligenza artificiale rappresenta il rischio esistenziale che tanti paventano, non dovremmo forse preoccuparci di regolamentarla? Oppure prendere in considerazione l’ipotesi di non costruirla proprio? Ma, ovviamente, siamo nella Silicon Valley; è quasi impossibile trovare qualcuno che dica: vabbè, forse è meglio lasciar perdere tutto. E, allo stesso tempo, a Washington, a Londra o a Roma, i politici sono alle prese con ben altre preoccupazioni”. Mentre O’Connell parla della fede nella tecnologia, della possibilità (o meno) di costruire queste super intelligenze artificiali, dell’attesa quasi messianica della singolarità, mi torna inevitabilmente in mente il brevissimo racconto di fantascienza pubblicato nel 1954 da Fredric Brown intitolato La Risposta. Brown immagina la costruzione di un “supercomputer galattico” al quale viene chiesto, come prima domanda, se esista Dio. “Adesso sì”, è la sua risposta.
Nessun commento:
Posta un commento