Cinquantamila.it La storia raccontata da Giorgio Dell'Arti

L’allarme è stato lanciato, in America, dagli stessi esperti di Intelligenza artificiale, i quali hanno avvertito l’umanità, in una dichiarazione pubblica, del «rischio di estinzione a causa dell’Ia». Il dibattito, già acceso da tempo, sui pericoli delle nuove tecnologie, ha ripreso vigore sui media Usa e, in particolare, la rivista Time ha dedicato all’argomento un numero speciale intitolato The End of Humanity - How Real Is the Risk?. La questione è posta in termini darwiniani, ovvero: nella infinita lotta per la sopravvivenza del più adatto, non è che l’umanità finirà per essere scavalcata proprio da una sua creatura, quell’Intelligenza artificiale che tanto spazio sta guadagnando nelle nostre vite, al punto che sembra non riusciremo più a farne a meno? In particolare, in uno degli articoli si sottolinea il legame sempre più stretto che si è stabilito fra Ia e grandi aziende: non sono più soltanto i lavori notoriamente realizzati meglio dai robot o dai computer a essere loro affidati (con la perdita di posti di lavoro di cui ben conosciamo gli effetti), ma anche i vertici manageriali vengono a mano a mano rimpiazzati da efficientissime Ia, che riescono a svolgere quelle funzioni (quasi) alla perfezione. E, dal comando delle grandi imprese a quello del mondo, il passo sembra breve... Per approfondire la questione, abbiamo rivolto alcune domande a una serie di studiosi. Innanzitutto, volevamo capire se le leggi darwiniane dell’evoluzione si possano davvero applicare anche alle macchine, e non solo alla vita biologica; poi, se nella selezione del più adatto siamo destinati a essere superati proprio dall’Ia o dai robot e, eventualmente, a estinguerci a causa di essi. Ci hanno risposto biologi evoluzionisti come Telmo Pievani (docente di Filosofia delle scienze biologiche all’Università di Padova e autore di numerosi saggi sull’evoluzione) e Giorgio Manzi (paleoantropologo alla Sapienza e studioso dell’evoluzione umana); il neurologo e neurofisiologo Simone Rossi, dell’Università di Siena, e Riccardo Manzotti, docente di Artificial Intelligence allo Iulm, che insieme hanno appena scritto un libro sull’intelligenza artificiale. Abbiamo infine raccolto i pareri di due studiosi di fama internazionale come Eva Jablonka, teorica dell’evoluzione e genetista, docente all’Istituto Cohn dell’Università di Tel Aviv, che da anni studia il sorgere della coscienza, e Paolo Dario, uno dei padri della robotica mondiale, professore emerito all’Istituto di Biorobotica della Scuola Superiore Sant’Anna di Pisa.

Le macchine evolvono davvero, come le specie in natura? E, se lo fanno, è possibile che macchine molto sofisticate, come l’Intelligenza artificiale o i robot, siano destinate a superarci, magari portandoci all’estinzione? Secondo Telmo Pievani, docente di Filosofia delle scienze biologiche all’Università di Padova e autore di numerosi libri sull’evoluzione (fra cui La vita inaspettata, Imperfezione e il più recente Il giro del mondo nell’Antropocene, tutti editi da Raffaello Cortina), la risposta alla prima domanda è sì: «Era un dibattito esistente già ai tempi di Darwin... Samuel Butler, un antidarwiniano, scrisse un articolo in cui avvertiva: un bel giorno applicheremo le leggi dell’evoluzione alle macchine, e queste diventeranno più intelligenti di noi». Pievani spiega che esistono due diversi tipi di evoluzione delle macchine: «C’è il machine learning, in cui insegno alle macchine a imparare, attraverso delle regole che inserisco in esse: un metodo sopravvalutato, perché siamo sempre noi a programmarle. Il secondo metodo, più interessante, ma meno battuto, è quello dei robot-insetti di Rodney Brooks: dai alla macchina regole semplici e lasci che si evolva da sola, che impari da sola a stare al mondo». La selezione avviene anche nelle macchine? «Sì, però è sempre umana – dice Pievani – Siamo noi i selettori. Una vera selezione ci sarebbe solo per l’Ia corporea, come i robot-insetti. Quanto a ChatGpt, un uso distorto è sempre dovuto a noi, non alla macchina in sé». Saremo superati dall’Ia? «Per me no. È interessante che si stiano evolvendo degli strumenti per identificare i testi scritti con ChatGpt: anche questo è un tipico meccanismo evolutivo, si chiama corsa agli armamenti. Anche se ora noi siamo indietro...» C’è un’altra similitudine fra evoluzione biologica e delle macchine: «Non sempre l’efficienza è la regola che porta alla vittoria, proprio come in natura. Pensiamo alla tastiera Qwerty: è totalmente antiergonomica ma, nonostante i tentativi di sostituirla, continuiamo a usarla, per ragioni ottocentesche del tutto superate». Infine, un’altra somiglianza è che «si arriva a certe innovazioni che hanno una utilità per una certa funzione e, poi, nell’evoluzione queste innovazioni assumono funzioni totalmente diverse. Si pensi al Cern e a internet. C’è un elemento di serendipità, tipico dell’evoluzione: scommetto che, fra dieci anni, useremo ChatGpt per funzioni che neanche immaginiamo». Il principio che le leggi dell’evoluzione siano applicabili alle macchine, però, non è condiviso da tutti. «Non sarei così convinto» dice il paleoantropologo Giorgio Manzi, docente alla Sapienza (fra i suoi saggi, pubblicati da il Mulino, Il grande racconto dell’evoluzione umana e L’ultimo Neanderthal racconta. Storie prima della storia). «Le macchine sono un prodotto dell’attività umana. Più che di evoluzione, parlerei di progresso, che segue criteri simili a quelli dell’evoluzione culturale della nostra specie, ben diversa da quella biologica: infatti l’evoluzione culturale segue un modello lamarckiano, in cui c’è un accumulo di caratteristiche acquisite, che vengono trasmesse sempre più rapidamente nel tempo. Dalle protesi alle navicelle spaziali, dalla letteratura alla musica, fino al linguaggio, tutto ciò segue un andamento lamarckiano». Proprio perché l’evoluzione lamarckiana è così accelerata, le macchine potranno superarci? «No, perché questa evoluzione non dipende dalle macchine, bensì da noi – dice Manzi – Sono più preoccupanti l’inquinamento, o l’estinzione di massa, o Putin... La sfida vera dell’umanità nei prossimi anni sarà proprio questa: il controllo di sé e dei propri prodotti». Quanto al timore di estinguerci per colpa dell’Ia, e al tanto parlare dei suoi rischi, «mi sembra una specie di distrazione di massa, che non ci fa vedere problemi ben più seri che, magari, potrebbero essere affrontati proprio con l’Ia». D’altra parte, da biologo evoluzionista, per noi vede poche chance di cambiamento: «La biologia ci insegna che i grandi passaggi evolutivi avvengono in piccole popolazioni isolate. E noi siamo il contrario». Simone Rossi, neurologo di fama, professore di neurofisiologia all’Università di Siena, dopo Il cervello elettrico (Cortina) ha appena pubblicato Io & Ia. Mente, cervello e Gpt (Rubbettino) con Riccardo Manzotti, ingegnere e filosofo della mente, docente di Artificial Intelligence allo Iulm. Quanto il dibattito scientifico sia aperto sulla questione lo dimostra proprio la loro diversità di posizione. Secondo Simone Rossi le leggi dell’evoluzione «non si possono applicare alle macchine perché, per definizione, la macchina non è biologica». L’Ia potrà soppiantarci? «È molto comoda, ma questa comodità non può soppiantarci. Il rischio è piuttosto che faccia atrofizzare il nostro modo di pensare: fino a vent’anni fa, il Qi medio della popolazione mondiale cresceva ogni anno; da vent’anni sta regredendo». E questo non sarebbe uno scalzarci dal trono? «Per me no – dice Rossi – La nostra intelligenza ha una componente creativa che l’Ia in questo momento non può avere. L’Ia ha quella che chiamiamo intelligenza cristallizzata, basata su conoscenze pregresse e, da questo punto di vista, è già superiore a noi; ma, per quanto riguarda le funzioni dell’emisfero destro, o non dominante, e del sistema limbico, è ben lontana: dobbiamo tenerlo presente e cercare di coltivare queste facoltà». Al contrario di Rossi, Riccardo Manzotti ritiene che l’evoluzione si applichi alle macchine perché «è una categoria che si applica a tutto, un principio universale quando si mostrino tre meccanismi: selezione, variazione e trasmissione». C’è il rischio di essere soppiantati dalle macchine? «Soppiantati no. Noi umani non abbiamo sterminato gli scimpanzé: li abbiamo superati, ma non sterminati. Abbiamo sterminato tutti gli altri esponenti della specie Homo, perché erano i nostri concorrenti diretti. La speranza è che l’Ia, essendo molto diversa da noi, non abbia bisogno di farci fuori». Quanto al nostro futuro, dice Manzotti: «Se c’è una cosa che la natura ci insegna è che tutte le specie sono destinate a essere superate da ulteriori sviluppi. Niente è insostituibile, nemmeno noi». Il nostro eventuale successore sulla scala evolutiva sarà l’Ia? «Sì, direi di sì. Perché l’artificiale non ha i limiti che ha il biologico. Se, ripeto se, l’Ia potesse ragionare come noi, e senza i nostri limiti biologici, sarebbe una lotta impari. Però penso che l’Ia sia così diversa da noi e talmente più avanzata che credo non faremo la fine del Neanderthal ma quella dell’orango del Borneo. Che è contento di dondolarsi sui rami». Una tale evoluzione delle macchine è fantascientifica fino a un certo punto. Eva Jablonka, teorica dell’evoluzione e genetista, docente all’Istituto Cohn dell’Università di Tel Aviv, sostiene che «se si definisce l’evoluzione in senso ampio, come il cambiamento nel corso del tempo della frequenza e della natura delle variazioni ereditabili nelle caratteristiche degli esseri viventi o dei loro prodotti, allora sì, si può parlare di evoluzione tecnologica». Da anni Jablonka studia il mistero della coscienza e ha dedicato all’argomento Figure della mente. La coscienza attraverso la lente dell’evoluzione, da poco pubblicato da Raffaello Cortina e scritto con Simona Ginsburg: «La riflessione e l’autocoscienza sono il dono speciale di noi umani e, anche, la nostra maledizione; e noi crediamo che dipendano dalla nostra abilità a usare i simboli, come quelli linguistici. Gli umani autocoscienti sono animali molto, molto inusuali. L’evoluzione della capacità di utilizzare simboli è stato un salto evoluzionistico qualitativo, anche se si è realizzato in molti milioni di anni». Questo salto potrebbe avvenire anche nelle macchine? «I robot autocoscienti dovrebbero prima essere coscienti: per esempio sentire dolore e piacere, e percepire. Crediamo che costruire un robot con Ia che sia cosciente e senziente sia molto più difficile di quanto si creda. Ci sono tre ostacoli principali. Primo, le sensazioni sono valutazioni di stati corporei, e non c’è Ia che abbia un sistema di valutazione tale da produrre una moneta comune per giudicare tutti i tipi di input e output. Secondo, la materia biologica offre grande flessibilità e sensibilità ai cambiamenti nel mondo esterno e interno, e questa flessibilità è anch’essa cruciale. Terzo, lo sviluppo morfologico può essere molto importante per lo sviluppo del comportamento, quindi i robot coscienti potrebbero dover crescere, come i bambini. Ma, se queste difficoltà fossero superate, crediamo che possa essere possibile costruire robot coscienti e, se saranno costruiti robot coscienti e senzienti, allora se ne potranno produrre anche di autocoscienti. A quel punto dovremo incorporare sistemi di valutazione simbolica e non solo fisiologica nella loro progettazione. Ma crediamo che questo ci porterebbe ben più lontano di quanto immagini la maggior parte dei lettori di fantascienza». In questo caso, sull’albero della vita l’Ia sarebbe il nostro successore? «Ne dubito – dice Jablonka – Credo che il futuro degli umani sarà legato a quello dell’Ia, ma che l’Ia non ci rimpiazzerà. In ogni caso ci cambierà, come tutte le innovazioni, dagli strumenti in pietra ai cellulari, hanno fatto e fanno tuttora. Le Ia diventeranno delle estensioni dei nostri corpi e delle nostre menti. Quanto all’estinzione, il cambiamento evolutivo è inevitabile, e l’estinzione è parte di esso. La gran parte delle specie che ha vissuto sul pianeta è estinta. Non c’è alcun dubbio che Homo sapiens cambierà: l’unica domanda è come e quando, e se la nostra discendenza si estinguerà come parte di questa dinamica evolutiva. Non sono un profeta, ma temo che il futuro dei nostri nipoti sarà pericoloso e impoverito: sia per la distruzione del nostro pianeta, sia per i problemi psicologici e sociali che la nuova tecnologia sta portando con sé. Il potenziale manipolatorio dell’Ia è enorme, a livello sia personale, sia collettivo». Non suonano distanti da questo richiamo le parole di Paolo Dario, uno dei padri della robotica mondiale, professore emerito all’Istituto di Biorobotica della Scuola Superiore Sant’Anna di Pisa. Per lui, le macchine sono Compagni di viaggio, come si intitola il saggio da lui scritto con Giuseppe Anerdi (Codice edizioni) e dedicato proprio a «Robot, androidi e altre intelligenze». Eppure... «La Natura è una cosa, e di fatto si evolve eliminando le soluzioni che non funzionano bene e facendo sviluppare quelle che funzionano meglio – dice – Le macchine sono progettate dall’uomo, da noi ingegneri, e nella loro evoluzione, che è appunto guidata da noi, proprio come quella dell’Ia, c’è la centralità dell’uomo: la macchina si evolve, sì, ma perché il progettista la cambia. Ai miei studenti insegno proprio questo: le macchine le progettiamo noi, decidiamo noi quello che vogliamo che facciano. Il vero elemento è la figura della persona umana: vale nei frigo e nei robot». Perciò «il ruolo dell’uomo è centrale, ed è quello di controllare e dominare le tecnologie. Se l’uomo abdica a questo ruolo, allora i rischi sono elevati». E poi, dice Dario, «attenzione, perché viviamo in un mondo fisico: ci preoccupiamo tanto dell’Ia e non dei robot, che hanno un corpo. Pensiamo ai droni, che usiamo tutti i giorni in guerra, e nessuno ne parla... Interroghiamoci se vogliamo questo. Col mio gruppo ci occupiamo di robot per operazioni mediche, per assistenza alle persone disabili o fragili, per la sostituzione di arti persi. Ricordiamoci di quello che dice Ulisse nel canto XXVI dell’Inferno: Fatti non foste a viver come bruti, ma per seguir virtute e canoscenza. Più conoscenza, più principi. La responsabilità è dell’uomo».

ELEONORA BARBIERI