Il saggio del mese - Giugno 2018

Il “saggio” del mese

Giugno 2018

La recente conferenza “Digital Twins” di Roberto Saracco ha fornito interessanti informazioni sull’evoluzione dell’intelligenza artificiale (IA), ossia dell’implementazione di sistemi informatici con elevatissime capacità di memoria, calcolo, computazione, in grado di compiere una gamma sempre più vasta di operazioni, mentali e fisiche, ad un livello altissimo di prestazione.

Sono scenari, sempre meno futuribili e sempre più a breve termine, con i quali sembra quindi inevitabile misurarsi, innanzitutto cercando di conoscerli quanto meno nei loro aspetti generali.

Sono molte, e profonde, le perplessità e le preoccupazioni, alcune già emerse nel corso del dibattito seguito alla conferenza di Roberto Saracco, così come a quella del Prof. Balestrieri “Il futuro della procreazione”, che accompagna questa evoluzione all’apparenza inarrestabile.

Sembra emergere la necessità di un dibattito adeguato alla complessità della questione guidato dalla domanda di fondo “cosa significherà in questo possibile futuro essere umani?”

E’ questo il tema che il seguente saggio di Max Tegmark (professore di fisica al MIT e Presidente del Future of Life Institute) affronta da una angolazione prevalentemente “tecnica”. Un testo quindi che non risponde a tutte le domande, le perplessità e le critiche, ma che sicuramente le inquadra correttamente nella loro dimensione concreta

Breve sintesi (il saggio è di 420 pag.)

Per meglio seguire e comprendere il saggio di Tegmark (T) è indispensabile condividere alcune definizioni di base ad iniziare da quella di vita e, quindi, quella di vita 3.0.

Per (T) il termine “vita” definisce un “processo in grado di mantenere la sua complessità e di replicarla, articolabile in tre stadi: “vita 1.0” = lo stadio biologico in cui la parte corporea (l’hardware) e la parte neuro-cerebrale (il software) sono completamente dipendenti dall’evoluzione, sostanzialmente lo stadio “animale” – “vita 2.0” = lo stadio culturale in cui (l’uomo) grazie alla cultura può progettare e migliorare il software – “vita 3.0 = lo stadio tecnologico in cui (l’uomo) può intervenire e modificare anche l’hardware.

L’intelligenza artificiale (IA) è lo strumento che l’uomo sta mettendo a punto per realizzare la vita 3.0.

Nell’ambito strettamente scientifico degli addetti ai lavori attorno alla IA, alle sue prospettive e le sue implicazioni, si sono formate tre correnti di pensiero:

·         i tecnoscettici = quelli che non credono realizzabile, se non su tempi lunghissimi con mille incognite lungo il percorso, la costruzione di una vera IA, e quindi mantengono un atteggiamento distaccato sulle sue implicazioni

·         gli utopisti digitali = quelli che invece considerano l’IA raggiungibile già nel corso di questo secolo e che la ritengono un obiettivo altamente fecondo e positivo

·         l’IA benefica = quelli che la ritengono possibile in tempi relativamente brevi ma che non danno per scontata una ricaduta solo positiva e che invitano a sottometterla a forme di controllo e di sicurezza molto stringenti

T appartiene alla corrente di pensiero della IA benefica.

Ma cosa dobbiamo intendere per “intelligenza”? la definizione adottata da T è “la capacità di realizzare fini complessi”. Su questa base, per capire gli scenari futuri, dobbiamo ovviamente partire dall’attuale stato dell’arte della IA, che oggi è in genere ancora molto ristretta, in grado cioè di realizzare, seppure con livelli di performance eccellenti decisamente superiori a quelli umani, solo fini e compiti molto specifici, il paragone con l’intelligenza umana non è al momento proponibile.

Occorre però considerare, e T lo fa con numerosi e interessanti esempi, che le facoltà della memoria, della compiutazione, dell’apprendimento, del calcolo, sono indipendenti dal substrato materiale che le realizza, possono essere attuate sia da supporti biologici (i nostri neuroni cerebrali) sia da materiali inorganici purchè debitamente sollecitati a rispondere a leggi della fisica.

In questo senso la possibilità “teorica” che l’IA si impadronisca delle singole facoltà della memoria, della computazione, dell’apprendimento e del calcolo, è illimitata.

In queste singole facoltà è poi bene considerare che quando la potenza di una tecnologia si rafforza può, nulla lo impedisce, essere a sua volta utilizzata per progettare e costruire tecnologie dotate di una potenza ancora più elevata.

Già ora comunque l’IA svolge un ruolo importante in molti settori, anche delicati, ed in molte attività umane,  già ora quindi sono necessarie, ed in gran parte messe in atto, misure precise di verifica, validazione, controllo e sicurezza.

Più lento sembra essere, al momento attuale, l’adeguamento dei sistemi legislativi che restano indispensabili per normare responsabilità e ricadute.

Allo stesso modo, sempre con riferimento alle attuali potenzialità già acquisite dalla IA, è urgente che la politica affronti le ricadute sul mercato del lavoro (umano) sempre più a rischio di sostituzione da parte di robot e sistemi automatizzati

Ovviamente se lo sviluppo della IA raggiungerà, come sembra ormai possibile, lo stadio della realizzazione di una IAG (intelligenza artificiale generale), ossia di una intelligenza strutturalmente simile a quella umana ma dotata di maggiori potenzialità, i problemi della sua convivenza con l’ “umano” saranno molto più grandi.

Ad iniziare dalla sua “utilizzazione “in termini di potere. La storia della vita sul nostro pianeta dimostra che essa si è auto-organizzata in forme sempre più complesse in termini di collaborazione, competizione e controllo. Una IAG può permettere sia una condivisione delle ricadute positive su scala planetaria sia, al versante opposto, ad un controllo totalitario dall’alto.

Non si può inoltre escludere, soprattutto nel caso di una IAG in grado di autoriprodursi ed auto-espandersi, situazioni di conflitto fra macchine ed umani.

Occorre considerare che, in linea teorica, gli sviluppi della IA sono definiti unicamente dalle leggi generali della fisica, ma il margine potenziale di crescita è enorme se si considerano le potenzialità di utilizzo, da parte di macchine dotate di IA, di fonti di energia quali i raggi cosmici e le onde gravitazionali. Gli ordini di grandezza di sviluppo teorico delle capacità di memora e computazione sono incredibilmente alti rispetto agli standard attuali.

(In buona parte del saggio T esamina nel dettaglio questi aspetti, talvolta con un eccesso di “futurismo” sicuramente dovuto al suo essere “tecnicamente” coinvolto nella questione)

L’umanità, progressivamente passata dal conseguimento del semplice fine della replicazione alla ricerca di fini complessi suggeriti dai sentimenti e dalla cultura, sta, in estrema sintesi, realizzando macchine dotate di IA il cui scopo ultimo non può che essere il raggiungimento di questi stessi fini. Ne consegue che un obiettivo fondamentale da raggiungere è che le macchine allineino i loro fini ai nostri, e questo è possibile solo ponendole nella condizione di capirli, di adottarli e di mantenerli.

Questo rimanda innanzitutto al controllo democratico e trasparente dei fini “assegnati” alle macchine, per evitare che ad esse siano dati fini egoistici e di potere ristretto.

E quindi in ultima istanza ciò pone al centro la condivisione dei fini “etici” da installare nelle macchine, nella IA. La questione si sposta pertanto dall’ambito tecnico (tutto è progressivamente realizzabile) a quello filosofico e politico.

T affronta nell’ultimo capitolo una questione cruciale: quello della “coscienza”, ovviamente strettamente collegata alla gestione da parte della IA dei fini etici.

Questione davvero complessa perché la “coscienza” è facoltà tutta da definire per lo stesso uomo, a partire dal fatto che le neuroscienze da tempo hanno dimostrato che la mostra esperienza cosciente è di fatto una sorta di riepilogo di informazioni non coscienti. Il problema di comprendere l’ IA non va quindi confuso con tre distinti problemi della coscienza:

1.    il problema “molto difficile” di capire quali sistemi fisici siano “coscienti”

2.    il problema “ancora più difficile” di prevedere i qualia, ossia gli aspetti qualitativi costituenti una esperienza cosciente

3.    il problema “davvero molto difficile” del “perché” qualcosa sia cosciente

Solo il primo problema può essere affrontato in un contesto, almeno in parte, “scientifico”. Ma non è condizione sufficiente per immaginare il formarsi di una coscienza in una IA. La possibilità di creare, utilizzando componenti inorganiche, un substrato in grado di sviluppare attività intelligenti non pare infatti applicabile alla coscienza, una facoltà di elaborazione dell’informazione che, sulla base delle attuali conoscenze neurologiche, non sembra richiedere un particolare tipo di particella o di campo in qualche modo “fabbricabile”, essendo un “secondo” livello di elaborazione delle informazioni che poggia, con criteri e fini sconosciuti, sull’insieme del substrato neurologico.

Certo è che se alle enormi potenzialità dell’ IA si sommasse una coscienza artificiale il mondo delle macchine avrebbe potenzialità inimmaginabili, e per molti versi problematiche.

T conclude, sulla base di questi ultimi aspetti della IA, con una considerazione che merita di essere riportata per esteso…….abbiamo costruito la nostra identità sulla base di essere Homo sapiens, la specie più intelligente in circolazione. Mentre ci apprestiamo a farci umiliare da macchine sempre più intelligenti propongo di ridefinirci Homo sentiens…………

La parola del mese - Giugno 2018

LA PAROLA DEL MESE

 A turno si propone una parola, evocativa di pensieri collegabili ed in grado di aprirsi verso nuove riflessioni

Giugno 2018

Se ne fa un gran parlare in questi giorni, il polverone spesso incomprensibile che l’avvolge viene vissuto, a seconda dei punti di vista, con preoccupazione, disincanto, nervosismo. Certamente è difficile riscontrare in questo gran chiasso un richiamo al suo significato originario. La parola del mese di questo mese è…….

Governo

Dal sito www.educational.rai.it/lemma/testi/istituzione/governo

Il termine italiano governo rinvia al greco kybernán e quindi al latino gubernare, da cui si formò gubernum. 

Ma cosa accomuna un membro del governo, il pilota di una nave e uno studioso di cibernetica? Se guardiamo alla storia delle parole, l’origine stessa di questi nomi. Il verbo greco kybernán, un termine di origine piuttosto controversa, significava infatti reggere il timone di un’imbarcazione, con riferimento alla funzione del pilota di una barca o di una nave che la mantiene sulla rotta fissata. Kybernetes era appunto il pilota, o il timoniere, mentre l’arte di pilotare, di guidare era detta kybernetikè tékhne, da cui il matematico americano Norbert Wiener ha tratto in inglese nel 1948 cybernetics come scienza che studia come riprodurre nelle machine i sistemi di guida e di controllo del cervello degli esseri viventi: di qui provengono l’italiano cibernetica e i suoi derivati riferiti ai cervelli elettronici. Per un popolo di navigatori come i Greci questo verbo costituiva veramente un termine chiave, emblematico, che presto dall’impiego tecnico nautico era passato al valore traslato e più generale di chi mantiene gli altri sulla giusta rotta, cioè li governa. Questa metafora è da accostare alle molte altre del linguaggio odierno, collegate agli stessi ambienti e oggetti, per cui è comune affermare che "si sta nella stessa barca" soprattutto quando c’è burrasca, o che "si manda avanti la barca" anche se non si è proprio navigati, cioè esperti. Dal greco la parola, nel suo duplice significato, è entrata molto presto nella lingua latina, dove ha dato gubernare e gubernum, quello con cui si governa, con riferimento al timone di una nave o anche con il significato più generico di governo, che nell’italiano di oggi ha prevalso. Nei secoli passati, tuttavia, anche in italiano governo poteva avere significato di timone, come attestano Dante, Petrarca e Bembo. La parola ha assunto poi diverse sfumature e valori collegati, in relazione anche ai diversi impieghi del verbo governare, che pure ai giorni nostri ha conservato il significato primario di mettere sulla giusta rotta o via, guidare. In questo senso governo significa innanzitutto guida: così nel linguaggio della Chiesa si è spesso parlato di governo delle anime, e fino a pochi decenni fa al marito, considerato capo della casa, spettava il governo della famiglia. Oggi il valore più diffuso della parola governo è quello di organismo che ha la guida, la direzione politica degli affari di un paese, di una nazione, cioè dello Stato. Al governo spetta perciò il potere esecutivo: la nostra Costituzione assegna tale compito al Consiglio dei ministri sotto la direzione del Presidente del consiglio che è il Capo del governo. Il governo giura nelle mani del Presidente della Repubblica e deve avere la fiducia del Parlamento. Quella del governo è quindi un’istituzione centrale dell’ordinamento politico, per cui spesso con il tipo di governo si identifica, in senso più generale, la stessa forma di ordinamento statale. Si parla allora di governo monarchico o repubblicano riferendosi alla forma istituzionale dello Stato, oppure di governo democratico quando è rispettoso delle libertà civili e politiche dei cittadini , o in caso contrario, si dice che è autoritario o addirittura tirannico. Non si governa tuttavia soltanto una nazione o uno stato, ma anche una parte di esso: ciascuno dei i cinquanta stati che costituiscono gli Stati Uniti d’America ha a capo un governatore, mentre, per tradizione, il massimo dirigente di certe banche centrali, come la Banca d’Italia, ha lo stesso titolo. Si tratta infatti pur sempre di funzioni di guida e di controllo nello stesso senso per cui, di una situazione particolarmente complessa e difficile, ormai sfuggita di mano, diciamo che è ingovernabile.

Aggiungiamo a questa descrizione etimologica, un po’ per approfondire e un po’ per sorriderci su, alcuni neologismi collegati alla parola del mese che la nostra recente storia politica ci ha consegnato:

GOVERNO DI TREGUA = governo che, avendo una scarsa caratterizzazione politica, dovrebbe consentire di attenuare i toni. Dopo le elezioni del '1979 il Presidente Pertini affida a Francesco Cossiga l'incarico di formare un "governo di tregua", che accetta dichiarando: "Ma ho l'impressione che tregua non me ne darà nessuno"

GOVERNO DI TUTTI = governo in grado di rappresentare tutte le componenti di una comunità (nazionale, politica, sociale, religiosa, ecc.) In politica viene invocato in situazioni eccezionali ovvero di stallo  

GOVERNO OMBRA = Direzione politica esercitata attraverso canali riservati, privi di ufficialità; con riferimento all’istituzione, da centri di potere (partiti o gruppi) che si muovono dietro le quinte

GOVERNO DI MISSIONE = Governo investito del raggiungimento di un obiettivo dichiarato……IN ALTERNATIVA…….GOVERNO DI SCOPO =  Governo investito del raggiungimento di un obiettivo dichiarato……OPPURE GOVERNO FUNZIONALE  = Governo investito del raggiungimento di un obiettivo dichiarato, più ampio di quello dei governi di missione o di scopo, e quindi con un mandato molto ampio……..OPPURE ANCORA……GOVERNO A PROGETTO =  Governo finalizzato al raggiungimento di obiettivi individuati e dichiarati in modo esplicito a costituire un programma di governo definito anche come termini temporali

GOVERNO DEI TECNICI = Governo, sorretto da una maggioranza politica, ma affidato a personalità esterne ai partiti di comprovata capacità “tecnica” nelle singole materie di governo

GOVERNO DI PROSSIMITA’ = Governo di solito su scala locale, ossia amministrazione pubblica che i cittadini percepiscono come immediatamente vicina alle loro necessità

Chiudiamo questo elenco, sicuramente parziale, con una ultima definizione di gran moda in questi giorni……

CONTRATTO DI GOVERNO = Accordo sottoscritto da formazioni politiche di diverso orientamento sulla base di punti programmatici condivisi elaborati congiuntamente e vincolanti per l’azione di governo (pur avendo ricadute pubbliche evidenti si richiama ad un istituto contrattuale a tutti i titoli di carattere “privato”……..anche se non prevede firma davanti ad alcun notaio)

Chiudiamo questa descrizione della “parola del mese” con un breve estratto del denso saggio di Michel Foucault con titolo “Il governo di sé e degli altri. Corso al Collège de France (1982-1983)”

…………………il problema posto dalla filosofia non è forse quello di stabilire qual è il migliore dei governi? Per rispondere a tale interrogativo Platone afferma: bisogna paragonare ogni “politeia” (termine complesso che indica di solito la “costituzione” ma che qui può essere inteso come corpo politico) ad una voce ad una “phone” …….questo passaggio è interessante per il confronto che occorre stabilire con il libro sesto della “Repubblica” in cui si parla ugualmente della phone e della politeia e del modo in cui ciò che si formula come voce nel corpo politico deve essere ascoltato. In tale libro si dice che l’insieme dei cittadini è come un animale e che perciò quelli che lo vogliono guidare sono obbligati ad imparare, a conoscere, la voce di questo animale. Bisogna comprendere il suo ringhio, le sue collere, i suoi desideri, soltanto allora sarà possibile guidarlo. Ma in questo passo della Repubblica l’ascolto di questa voce ha una valenza critica. Perchè questa voce è la voce della collera, degli appetiti, di tutto quello che non è ragionevole. Il cattivo capo (potremmo dire il cattivo governo) è proprio colui che imparando a conoscere questa voce gli fa eco guidando questa politeia nella direzione da lei desiderata…….