«Tra qualche decennio, con il deep learning, potremo registrare dati da ogni singolo neurone e riconoscere i pensieri: questo ci permetterà, probabilmente, di scambiare pensieri con le altre persone senza bisogno di parlare».
Chi vincerà nella gara verso l’Ia di tipo umano?
«Da un lato ci sono i titani della Silicon Valley, con la loro visione commerciale e privata. Dall’altro la Cina, che foraggia la ricerca in questo settore così importante per il futuro con immensi investimenti statali e una pianificazione governativa. Oggi i colossi Usa pensano solo al breve termine: sono assillati dal mostrare i risultati agli investitori. E quindi i software di intelligenza artificiale non sono progettati per essere trasparenti o comprensibili, ma solo per vendere soluzioni, come Siri o Alexa, e non scontentare Wall Street».
Potrebbe essere un problema?
«Questo approccio rende le menti elettroniche opache e imperscrutabili. Se ci aggiungiamo il fatto che oggi gli algoritmi più promettenti sono quelli " evolutivi", che per risolvere un problema producono milioni di soluzioni casuali e selezionano via via quelle migliori, vediamo che ricostruire il modo in cui gli algoritmi decidono è impossibile anche per i migliori esperti umani. Il rischio è la nostra perdita di controllo su qualcosa, le intelligenze artificiali, che controlleranno sempre di più il mondo».
Faccia un esempio.
«Ricercatori della Ichan School of Medicine di New York hanno condotto un test con gli algoritmi di deep learning per vedere se si può predire il cancro dai dati dei pazienti. Questo sistema, risultato incomprensibile ai medici, si è rivelato molto efficace nello scoprire molte malattie allo stadio precoce: dai tumori al fegato alla schizofrenia. Ma chi di noi affronterebbe una cura solo perché lo suggerisce un oracolo indecifrabile?».
E se invece a vincere la corsa verso “HAL9000” sarà la Cina?
«Potendo far allenare i suoi sistemi di intelligenza artificiale sui dati di ben 1,3 miliardi di cittadini, la Cina ha un vantaggio strategico enorme sugli altri Paesi. Se vincerà l’approccio cinese, gli altri Paesi potrebbero voler mettere in secondo piano la privacy dei cittadini pur di competere con la Cina».
Vedremo una soluzione ai due problemi che ha esposto?
«Nei prossimi anni bisognerà formare una coalizione internazionale per fissare degli standard globali di trasparenza sulle intelligenze artificiali. Così che si possa sempre ricostruire la logica delle decisioni prese dagli algoritmi, e che tutte le persone sul nostro pianeta possano mantenere il controllo sui loro dati sensibili».
Quando vedremo una vera “superintelligenza”?
«Il nostro cervello, negli ultimi 50 anni di evoluzione, è salito di 15 punti nella scala del quoziente di intelligenza. Per ottenere di più dovremmo prima comprendere perfettamente come funziona il nostro cervello e poi modificarne l’architettura in un modo ereditabile dalle future generazioni. Pressoché impossibile, ed eticamente spinoso. In 50 anni, invece, i computer possono diventare milioni di volte più intelligenti perché non hanno i nostri limiti biologici. Il sorpasso è inevitabile. Quando ci troveremo di fronte a una superintelligenza, sarà come quando uno scimpanzé incontra un astrofisico».