La Stampa, 24 ottobre 2018
Ecco l’Intelligenza Artificiale che legge le labbra. Si realizza l’incubo di Kubrick con Hal 9000
Profezia. La scena centrale di «2001. Odissea nello spazio», quella che porta alla svolta drammatica del film, mostra il computer Hal 9000 che legge le labbra ai due astronauti, David Bowman e il suo vice Frank Poole, e così viene a sapere qualcosa che i due umani, chiusi in una capsula insonorizzata, vogliono nascondergli.
Il film era del 1968. Cinquant’anni dopo, nel 2018, questa visione si è realizzata in un sistema di Intelligenza Artificiale capace, appunto, di leggere le labbra e di farlo straordinariamente bene, surclassando gli specialisti umani. È uno strumento utilissimo, per esempio, per i sordi, che potranno disporre di traduttori automatici delle parole che non riescono a sentire, o per la polizia, che fruirà di nuovi mezzi di intercettazione.
Il lato inquietante è che la profezia di «2001» rischia di avverarsi in toto: cioè per il bene, ma anche per il male. L’Intelligenza Artificiale è tutto tranne che neutrale.
La studiosa Robin Murphy
Non si potrà mai lodare abbastanza quel film di Kubrick. Sull’ultimo numero della rivista «Science Robotics» la studiosa di cibernetica Robin Murphy (della Texas University), scrive che« 2001» non solo ha anticipato gli sviluppi della robotica, ma anche e soprattutto l’impatto dell’Intelligenza Artificiale in termini di percezione pubblica: «Ha portato la “IA” al centro della nostra consapevolezza. Ci ha reso familiare, per la prima volta, l’idea che un computer può essere destinato non al lavoro in fabbrica, ma ai campi emergenti della comprensione del linguaggio umano e della capacità di ragionamento da parte dei robot».
Nel nostro mondo reale la lettura delle labbra è resa possibile da un progetto congiunto di Google Brain e DeepMind, i due maggiori laboratori di Alphabet ( holding di controllo di Google). Il sistema è così efficace da dimezzare il numero medio di parole che non riesce a decifrare rispetto agli specialisti umani. Tutto bello, tutto a posto? Mica tanto.
Il «New York Times» riferisce di un altro sistema, prodotto dal Mit di Boston e battezzato DeepAngel, che usando l’Intelligenza Artificiale è capace di eliminare le persone dalle fotografie e dai filmati e di farlo in modo tale che (a cose fatte) nessuno se ne accorga. Anche questo è utile: lo si può vedere come una versione potenziata di Photoshop. Però nelle sue applicazioni pratiche il nuovo super-sistema evoca il «1984» di George Orwell, in cui il Grande Fratello non solo uccide uomini e donne, ma cancella ogni traccia della loro esistenza, eliminandola anche dagli archivi fotografici pubblici.
Fabbricare video «fake»
La combinazione di un sistema infallibile di lettura delle labbra e di un super-Photoshop in grado di modificare, cancellare, ma presto anche aggiungere, qualunque immagine, dove ci porta? In teoria chiunque potrà fabbricare video in cui ci vengono attribuiti falsi movimenti delle labbra e così ci verrà fatto dire qualunque cosa. Altro che fake news. E poi che cosa impedirà all’Intelligenza Artificiale di evolversi ulteriormente e di produrre simulazioni perfette, in ogni minimo dettagli, delle nostre voci, per generare dichiarazioni fasulle?
Ognuno di noi potrà essere replicato da marionette digitali che (ad esempio) commettono reati, o azioni imbarazzanti, il tutto comprovato da immagini ed effetti sonori perfettamente realistici, grazie all’Intelligenza Artificiale. Il primo rischio è che diventiamo tutti vulnerabili a questi attacchi. Ma non appena ci saremo abituati all’idea, maturerà il secondo rischio, cioè che nessuno creda più alla verità di alcuna foto, di alcun video o di alcuna traccia sonora.
Chi ci dice che Khashoggi è entrato davvero nel consolato? Un video? E i due russi accusati di aver ucciso con il gas nervino a Londra? Compaiono in qualche foto? E con questo? In tribunale nessuna prova audio o video sarà più tale, perché qualunque avvocato le farà invalidare tutte.
Oppure comincerà un’infinita (e inconcludente) guerra di perizie e contro-perizie, entrambe basate sull’Intelligenza Artificiale, per contraffare o per smascherare chi ha contraffatto: un gioco degli specchi infinito, in cui scoprire la verità sarà impossibile. Pure i test del Dna: saranno immuni dalle manipolazioni robotizzate? Il paradosso è che l’Intelligenza Artificiale ci faccia tornare alle indagini e ai processi alla Sherlock Holmes: prove materiali, testimonianze dirette e zero tecnologia.