Il saggio del mese - Giugno 2018

Il “saggio” del mese

Giugno 2018

La recente conferenza “Digital Twins” di Roberto Saracco ha fornito interessanti informazioni sull’evoluzione dell’intelligenza artificiale (IA), ossia dell’implementazione di sistemi informatici con elevatissime capacità di memoria, calcolo, computazione, in grado di compiere una gamma sempre più vasta di operazioni, mentali e fisiche, ad un livello altissimo di prestazione.

Sono scenari, sempre meno futuribili e sempre più a breve termine, con i quali sembra quindi inevitabile misurarsi, innanzitutto cercando di conoscerli quanto meno nei loro aspetti generali.

Sono molte, e profonde, le perplessità e le preoccupazioni, alcune già emerse nel corso del dibattito seguito alla conferenza di Roberto Saracco, così come a quella del Prof. Balestrieri “Il futuro della procreazione”, che accompagna questa evoluzione all’apparenza inarrestabile.

Sembra emergere la necessità di un dibattito adeguato alla complessità della questione guidato dalla domanda di fondo “cosa significherà in questo possibile futuro essere umani?”

E’ questo il tema che il seguente saggio di Max Tegmark (professore di fisica al MIT e Presidente del Future of Life Institute) affronta da una angolazione prevalentemente “tecnica”. Un testo quindi che non risponde a tutte le domande, le perplessità e le critiche, ma che sicuramente le inquadra correttamente nella loro dimensione concreta

Breve sintesi (il saggio è di 420 pag.)

Per meglio seguire e comprendere il saggio di Tegmark (T) è indispensabile condividere alcune definizioni di base ad iniziare da quella di vita e, quindi, quella di vita 3.0.

Per (T) il termine “vita” definisce un “processo in grado di mantenere la sua complessità e di replicarla, articolabile in tre stadi: “vita 1.0” = lo stadio biologico in cui la parte corporea (l’hardware) e la parte neuro-cerebrale (il software) sono completamente dipendenti dall’evoluzione, sostanzialmente lo stadio “animale” – “vita 2.0” = lo stadio culturale in cui (l’uomo) grazie alla cultura può progettare e migliorare il software – “vita 3.0 = lo stadio tecnologico in cui (l’uomo) può intervenire e modificare anche l’hardware.

L’intelligenza artificiale (IA) è lo strumento che l’uomo sta mettendo a punto per realizzare la vita 3.0.

Nell’ambito strettamente scientifico degli addetti ai lavori attorno alla IA, alle sue prospettive e le sue implicazioni, si sono formate tre correnti di pensiero:

·         i tecnoscettici = quelli che non credono realizzabile, se non su tempi lunghissimi con mille incognite lungo il percorso, la costruzione di una vera IA, e quindi mantengono un atteggiamento distaccato sulle sue implicazioni

·         gli utopisti digitali = quelli che invece considerano l’IA raggiungibile già nel corso di questo secolo e che la ritengono un obiettivo altamente fecondo e positivo

·         l’IA benefica = quelli che la ritengono possibile in tempi relativamente brevi ma che non danno per scontata una ricaduta solo positiva e che invitano a sottometterla a forme di controllo e di sicurezza molto stringenti

T appartiene alla corrente di pensiero della IA benefica.

Ma cosa dobbiamo intendere per “intelligenza”? la definizione adottata da T è “la capacità di realizzare fini complessi”. Su questa base, per capire gli scenari futuri, dobbiamo ovviamente partire dall’attuale stato dell’arte della IA, che oggi è in genere ancora molto ristretta, in grado cioè di realizzare, seppure con livelli di performance eccellenti decisamente superiori a quelli umani, solo fini e compiti molto specifici, il paragone con l’intelligenza umana non è al momento proponibile.

Occorre però considerare, e T lo fa con numerosi e interessanti esempi, che le facoltà della memoria, della compiutazione, dell’apprendimento, del calcolo, sono indipendenti dal substrato materiale che le realizza, possono essere attuate sia da supporti biologici (i nostri neuroni cerebrali) sia da materiali inorganici purchè debitamente sollecitati a rispondere a leggi della fisica.

In questo senso la possibilità “teorica” che l’IA si impadronisca delle singole facoltà della memoria, della computazione, dell’apprendimento e del calcolo, è illimitata.

In queste singole facoltà è poi bene considerare che quando la potenza di una tecnologia si rafforza può, nulla lo impedisce, essere a sua volta utilizzata per progettare e costruire tecnologie dotate di una potenza ancora più elevata.

Già ora comunque l’IA svolge un ruolo importante in molti settori, anche delicati, ed in molte attività umane,  già ora quindi sono necessarie, ed in gran parte messe in atto, misure precise di verifica, validazione, controllo e sicurezza.

Più lento sembra essere, al momento attuale, l’adeguamento dei sistemi legislativi che restano indispensabili per normare responsabilità e ricadute.

Allo stesso modo, sempre con riferimento alle attuali potenzialità già acquisite dalla IA, è urgente che la politica affronti le ricadute sul mercato del lavoro (umano) sempre più a rischio di sostituzione da parte di robot e sistemi automatizzati

Ovviamente se lo sviluppo della IA raggiungerà, come sembra ormai possibile, lo stadio della realizzazione di una IAG (intelligenza artificiale generale), ossia di una intelligenza strutturalmente simile a quella umana ma dotata di maggiori potenzialità, i problemi della sua convivenza con l’ “umano” saranno molto più grandi.

Ad iniziare dalla sua “utilizzazione “in termini di potere. La storia della vita sul nostro pianeta dimostra che essa si è auto-organizzata in forme sempre più complesse in termini di collaborazione, competizione e controllo. Una IAG può permettere sia una condivisione delle ricadute positive su scala planetaria sia, al versante opposto, ad un controllo totalitario dall’alto.

Non si può inoltre escludere, soprattutto nel caso di una IAG in grado di autoriprodursi ed auto-espandersi, situazioni di conflitto fra macchine ed umani.

Occorre considerare che, in linea teorica, gli sviluppi della IA sono definiti unicamente dalle leggi generali della fisica, ma il margine potenziale di crescita è enorme se si considerano le potenzialità di utilizzo, da parte di macchine dotate di IA, di fonti di energia quali i raggi cosmici e le onde gravitazionali. Gli ordini di grandezza di sviluppo teorico delle capacità di memora e computazione sono incredibilmente alti rispetto agli standard attuali.

(In buona parte del saggio T esamina nel dettaglio questi aspetti, talvolta con un eccesso di “futurismo” sicuramente dovuto al suo essere “tecnicamente” coinvolto nella questione)

L’umanità, progressivamente passata dal conseguimento del semplice fine della replicazione alla ricerca di fini complessi suggeriti dai sentimenti e dalla cultura, sta, in estrema sintesi, realizzando macchine dotate di IA il cui scopo ultimo non può che essere il raggiungimento di questi stessi fini. Ne consegue che un obiettivo fondamentale da raggiungere è che le macchine allineino i loro fini ai nostri, e questo è possibile solo ponendole nella condizione di capirli, di adottarli e di mantenerli.

Questo rimanda innanzitutto al controllo democratico e trasparente dei fini “assegnati” alle macchine, per evitare che ad esse siano dati fini egoistici e di potere ristretto.

E quindi in ultima istanza ciò pone al centro la condivisione dei fini “etici” da installare nelle macchine, nella IA. La questione si sposta pertanto dall’ambito tecnico (tutto è progressivamente realizzabile) a quello filosofico e politico.

T affronta nell’ultimo capitolo una questione cruciale: quello della “coscienza”, ovviamente strettamente collegata alla gestione da parte della IA dei fini etici.

Questione davvero complessa perché la “coscienza” è facoltà tutta da definire per lo stesso uomo, a partire dal fatto che le neuroscienze da tempo hanno dimostrato che la mostra esperienza cosciente è di fatto una sorta di riepilogo di informazioni non coscienti. Il problema di comprendere l’ IA non va quindi confuso con tre distinti problemi della coscienza:

1.    il problema “molto difficile” di capire quali sistemi fisici siano “coscienti”

2.    il problema “ancora più difficile” di prevedere i qualia, ossia gli aspetti qualitativi costituenti una esperienza cosciente

3.    il problema “davvero molto difficile” del “perché” qualcosa sia cosciente

Solo il primo problema può essere affrontato in un contesto, almeno in parte, “scientifico”. Ma non è condizione sufficiente per immaginare il formarsi di una coscienza in una IA. La possibilità di creare, utilizzando componenti inorganiche, un substrato in grado di sviluppare attività intelligenti non pare infatti applicabile alla coscienza, una facoltà di elaborazione dell’informazione che, sulla base delle attuali conoscenze neurologiche, non sembra richiedere un particolare tipo di particella o di campo in qualche modo “fabbricabile”, essendo un “secondo” livello di elaborazione delle informazioni che poggia, con criteri e fini sconosciuti, sull’insieme del substrato neurologico.

Certo è che se alle enormi potenzialità dell’ IA si sommasse una coscienza artificiale il mondo delle macchine avrebbe potenzialità inimmaginabili, e per molti versi problematiche.

T conclude, sulla base di questi ultimi aspetti della IA, con una considerazione che merita di essere riportata per esteso…….abbiamo costruito la nostra identità sulla base di essere Homo sapiens, la specie più intelligente in circolazione. Mentre ci apprestiamo a farci umiliare da macchine sempre più intelligenti propongo di ridefinirci Homo sentiens…………