La Stampa, 7 novembre 2018
Sos del signore degli algoritmi: «Stanno diventando così potenti che potremmo perderne il controllo»
Algoritmo, questo sconosciuto. Ma allo stesso tempo il termine è entrato a far parte del nostro lessico familiare. I dizionari lo definiscono come una procedura o schema di calcolo volto a risolvere un problema matematico - ma anche pratico - in un numero finito di passaggi. A sentire la spiegazione classica Robert Endre Tarjan sorride sornione su uno dei divanetti del L.O.F.T., il Laboratory Of Fabolous Things, all’università Luiss di Roma, dove ha incontrato gli studenti e ha parlato dell’algoritmo che porta il suo nome.
«Gli algoritmi sono, certo, procedure di calcolo, ma oggi non più solo quello. Sono diventati una sorta di fattore sociale. Delle presenze nelle nostre vite», dice. Per essere un esperto e creatore di algoritmi lui mostra una preoccupazione evidente riguardo a questo strumento, diventato onnipresente nell’universo informatico: un universo che non è solo occasionalmente connesso, ma compenetra il nostro agire quotidiano.
Le strutture di dati
«Ci sono molte ragioni per essere preoccupati», insiste il «computer scientist» americano, che nel 1986 è stato insignito del premio Turing (insieme con John Hopcroft), il Nobel dell’informatica. Il suo campo sono le strutture di dati e i cosiddetti «splay trees», sistemi altamente efficienti per immagazzinare, gestire e rimuovere dati. L’efficienza, appunto. «Nella scienza informatica un algoritmo è una serie di passaggi che permette al programma di un computer di svolgere il proprio compito. Tanto più è elaborato il software e tanto meglio il programma svolgerà il suo compito. E più è complesso, più dati potrà processare e combinare, anche di provenienza diversa».
Tutto questo ci permette di gestire sistemi complessi, come il traffico su strada o su rotaia e i continui cambiamenti del clima, ma rischia di mettere sotto osservazione e di far gestire dagli algoritmi gli stessi individui che dovrebbero esserne i controllori e i beneficiari finali.
Alle spalle c’è una lunga storia: dagli egizi, i primi a utilizzare queste procedure di calcolo, come si è scoperto nei papiri di Ahmes del XVII secolo a.C., a quelli del matematico persiano Muhammad ibn Musa, nell’VIII secolo, al quale si deve il termine algoritmo, fino alla reti neurali. Oggi la rivoluzione è in pieno svolgimento: gli algoritmi ci suggeriscono con chi prendere un appuntamento romantico e come impostare le nostre diete attraverso una serie di contatti in rete e di app grazie alle quali trasmettiamo i nostri dati. Ci sono algoritmi che «studiano» le espressioni dei selfies nell’immensa biblioteca di immagini dei social. Altri in grado di replicare la personalità di utenti attraverso email, tweets e messaggi di testo. E Tarjan non è solo nel mostrare perplessità. Tra gli scienziati inquieti per l’eccessivo potere degli algoritmi ci sono la matematica britannica Hannah Fry, autrice di «Hello World: Being Human in the Age of Algorithms» (Buongiorno mondo: restare umani nell’era degli algoritmi, editore W.W.Norton) e Giuseppe Italiano, professore di computer science alla Luiss e organizzatore dell’incontro. Fry, per esempio, elenca una serie di storie sconcertanti, dai pregiudizi razziali racchiusi negli algoritmi usati nelle corti di giustizia fino a discutibili previsioni in campo medico.
«Gli algoritmi, essenzialmente, sono stupidi - sostiene Tarjan -. Però sono efficienti. Tendono all’efficienza massima. Non colgono le sfumature. E sono potenti. In alcuni campi hanno superato gli umani: per esempio nell’uso del linguaggio, traguardo fino a poco tempo fa impensabile. D’altra parte noi siamo esposti come mai prima d’ora alle loro analisi, attraverso i “cookies” su Internet, gli acquisti con le carte di credito, le informazioni sulla salute. Semplicemente, stiamo dando loro troppo potere». Il caso di Cambridge Analytica ha mostrato come pubblicità elaborate attraverso algoritmi possano manipolare perfino le scelte politiche e non solo quelle commerciali.
Ma nel futuro sarà possibile una manipolazione più sottile, quasi subliminale? «È già possibile per un candidato a una carica istituzionale preparare un’agenda politica attraverso un algoritmo che sia mirato a un preciso comparto sociale, se ha accesso a sufficienti informazioni riguardo a quel gruppo. Quanto all’idea di creare eventi e situazioni apparentemente slegati tra loro, quasi insignificanti da soli, ma che conducano gli elettori a scelte politiche senza che se ne rendano conto, non credo che ci siano algoritmi in grado di farlo. Ma potrebbero esserci in futuro».
Il problema della trasparenza
E oggi quali sono gli aspetti più preoccupanti? «La trasparenza, soprattutto. Non parlo soltanto di quella delle grandi società informatiche nei riguardi dei loro utenti. Ma di quella del programma rispetto al programmatore. Quando un algoritmo - spiega Tarjan - è inserito in una rete neurale, in grado di imparare da sola, il tecnico fornisce i dati e ottiene il risultato, ma non sa attraverso quali passaggi il risultato è stato ottenuto. È un paradosso: sappiamo di più, ma abbiamo perso il controllo del sapere».
La questione, così, diventa come sia possibile gestire gli algoritmi, usandoli in qualità di strumenti, senza diventare noi stessi uno strumento. «Suggerire di rifiutare i “cookies” e di frequentare meno i social è banale e anche molto difficile - risponde lo scienziato americano -: senza questi mezzi è diventato difficile ottenere informazioni e avere rapporti sociali. Le soluzioni non possono essere trovate individualmente. Soltanto la collettività potrà farlo».