La Stampa, 13 febbraio 2019
Le emulazioni dei cervelli
Macchine che pensano come umani e che si ribellano al proprio creatore. È una paranoia antica, dal golem della mitologia ebraica fino a «Terminator». Ma quanto c’è di probabile?
Mentre in tanti, ovattati dalle comodità della contemporaneità, rimangono immuni ai timori dell’apocalisse tecnologica, alcuni esperti di Intelligenza Artificiale tengono alta la guardia: «Abbiamo affidato tutto ai computer e i computer si prenderanno prima il controllo dell’economia e quindi dell’uomo».
L’infausta profezia è di Robin Hanson, fisico di formazione, docente di economia alla George Mason University e ricercatore al Future of Humanity Institute di Oxford, ospite, per la prima volta in Italia, dell’Area Science Park di Trieste per partecipare al programma di «The European House - Ambrosetti» destinato all’aggiornamento di top e senior manager.
Secondo il ricercatore, se oggi i computer eseguono operazioni impartite dagli uomini, giorno dopo giorno diverranno sempre più autonomi grazie al «machine learning». Immaginate un software programmato per giocare a scacchi: più fa partite, più diventa abile, cioè impara. Se però, al posto degli scacchi e delle sue regole, ci sono il denaro e le dinamiche dell’economia, l’iper-efficienza delle macchine che si migliorano da sé potrebbe dare luogo a una creatività finanziaria da sconvolgere per sempre la società. Abbiamo quindi chiesto a Hanson di accompagnarci in questo futuro distopico, secondo il ricercatore nemmeno troppo lontano: entro questo secolo.
Perché tanta fretta per la fine dell’umanità come la conosciamo? Sono i cicli economici, sempre più brevi, a dettare l’agenda, risponde. «La rivoluzione agricola è comparsa milioni di anni dopo l’uomo cacciatore e raccoglitore, mentre sono bastati 10 mila anni per arrivare alla prima rivoluzione industriale». Pochi secoli dopo l’uomo ha inventato la società moderna, dove il computer - la catena di montaggio dell’era contemporanea - ha trasformato il lavoro un’altra volta. Ciascuna di queste trasformazioni - aggiunge Hanson - ha sconvolto i rapporti tra le masse e la classe dirigente: prima dell’agricoltura eravamo pochi individui, con gli stessi mezzi e privilegi. Con l’agricoltura e il benessere derivato ci siamo moltiplicati, mentre emergevano le differenze tra chi possedeva i mezzi e i comuni mortali, con le relative lotte di classe. La scienza e la tecnologia, dal XVIII secolo in poi, hanno acuito questi rapporti: «Siamo oltre sette miliardi, la maggior parte poveri, a parte un gruppo di ricchi che possiede le conoscenze e manovra l’economia».
Hanson, però, non è un «vecchio socialista» - ci tiene a precisare - e il suo ragionamento va oltre: l’invenzione dei mercati è, infatti, vitale per produrre ricchezza in modo democratico, ma fintanto che dietro i mercati ci sono gli uomini. Se, invece, i «padroni» saranno gli automi, cambierà tutto. Certe visioni catastrofiste potrebbero sembrare eccessive, ma domandarsi se le macchine diverranno intelligenti e consapevoli di sé non è così folle. Ci sarà una «singolarità digitale», secondo Hanson, dopo la quale niente sarà più uguale, perché le macchine sapranno fare in proprio. «Le menti digitali ragioneranno milioni di volte più velocemente di quelle umane e, inoltre, potranno fare copie di sé molto facilmente, non per via biologica ma come si fa la copia di un sistema operativo: la presenza e la potenza di queste entità renderanno l’uomo, con la sue limitate capacità di riprodursi e contare, completamente emarginato».
Eccoci, quindi, in un futuro nemmeno troppo lontano. Nella giornata-tipo pochi umani lavoreranno: solo coloro che serviranno agli «Em» - emulazioni sintetiche dei cervelli umani, come le chiama Hanson -, mentre la massa assomiglierà alla popolazione preindustriale, quando a prosperare erano le corti dei regnanti. «Il popolo ha assunto importanza nella storia solo quando servì ai potenti e quando con l’era industriale ci fu bisogno di mano d’opera. Fu allora che cominciò l’emancipazione della massa fino a quel momento invisibile». Nell’era degli «Em», invece, la richiesta di manodopera sarà esigua e, quindi, la gente tornerà ai margini: la maggior parte delle persone non lavorerà, perché faranno tutto le Intelligenze Artificiali, e sarà mantenuta con occupazioni e salari solo per la sussistenza.
A chi gli contesta di essere una sorta di Stephen King della scienza mancato Hanson risponde così: è tutt’altro che una favola, perché la rotta verso l’era degli «Em» è tracciata. Se un software di scacchi impiega solo poche ore per competere con i campioni del mondo (e poi batterli), allora potrebbe essere soltanto questione di esercizio. E l’umanità, in effetti, sta addestrando le macchine a diventare sempre più intelligenti con migliaia di ore di training al giorno, perché sulla Terra miliardi di persone (in aumento) caricano la propria coscienza in rete, per una buona parte del tempo, abituandola a convivere con le Intelligenze Artificiali e poi a istruirle.
Al risveglio consumiamo news, meteo e altri dati da social e fonti online, insegnando loro a informarsi per noi. Gestiamo l’ambiente tramite assistenti personali, che chiamiamo Siri, Cortana o Alexa, mostrando loro come ci si muove nel nostro ambiente, mentre altri dispositivi mappano il nostro viaggio verso il lavoro con i Gps, lungo strade scelte da algoritmi. Lavoriamo in rete con i colleghi dall’altra parte del mondo, spostando merci e fondi e facendo ricerca scientifica. Esercitiamo la rete alle relazioni umani, chiedendole di trovarci il compagno o la compagna e terminiamo la giornata in mondi fantastici su Netflix.
Stiamo educando noi le macchine, istante dopo istante, all’intelligenza. Ma quella di Hanson non è una riflessione etica, né tanto meno politica: l’innovazione non chiede permesso, arriva e basta. E la sfida non ha nulla a che fare con il superamento della propria natura, che tale rimane. È il tentativo di conoscerla e sperimentarla, oscillando tra desiderio e rimorso.