STEFANO RODOT, la Repubblica 27/3/2010, 27 marzo 2010
LA SOCIETA DELL’ALGORITMO - STIAMO
entrando nella società dell´algoritmo. Decisioni importanti o solo apparentemente minori, scelte rilevanti per l´economia e per la stessa vita quotidiana, sono sempre più intensamente affidate a procedure automatizzate, a software messi a punto grazie a modelli matematici che, riducendo o eliminando del tutto l´intervento umano, dovrebbero rendere più rapide e affidabili molteplici operazioni e ridurre i loro rischi. Ma proprio il ricorso massiccio agli algoritmi, agli "scambi ad alta frequenza", è stato denunciato come una delle cause della grande crisi finanziaria del 2008. Uno dei padroni del mondo, Google, basa la sua potenza appunto sull´algoritmo che raccoglie, seleziona, stabilisce gerarchie tra le informazioni alle quali un numero sempre crescente di persone attingono le loro conoscenze. L´incessante produzione di profili individuali, familiari e di gruppo, dunque la costruzione della nostra identità individuale e sociale, è affidata ad algoritmi, così come i calcoli presuntivi dei nostri consumi sulla base dei quali vengono definite le bollette da pagare.
Questo confidare negli algoritmi ne determina una presenza sempre più pervasiva, che sembra non conoscere confini, e che invade ogni sfera dell´esistenza. Da sempre l´uomo ha cercato una formula che racchiuda il segreto della vita.
Ma ormai le università sfornano equazioni per ogni cosa: per l´amore, per l´eros, per la dieta perfetta e ovviamente per vincere nei giochi d´azzardo. In realtà l´algoritmo disegna le modalità di funzionamento di larghe aree delle nostre organizzazioni sociali, e così redistribuisce poteri. Incarna anzi le nuove forme del potere e ne modifica la qualità. E tutto questo suscita diverse domande. Saremo sempre più intensamente alla mercè delle macchine? Quali sono gli effetti su libertà e diritti, quali le conseguenze sullo stesso funzionamento democratico di una società?
Alle tecnologie dell´informazione e della comunicazione, infatti, è stata attribuita una virtù, quella di rendere la società più trasparente proprio per quanto riguarda la possibilità di controlli diffusi sul potere, su qualsiasi potere. Ma quando l´algoritmo diviene il fondamento stesso del potere esercitato da un soggetto, com´è nel caso assai enfatizzato di Google, e tutto ciò che lo riguarda è avvolto dalla massima segretezza, allora siamo davvero di fronte alla nuova versione degli arcana imperii, che non tutelano soltanto l´attività d´impresa, ma si impadroniscono, direttamente o indirettamente, della vita stessa delle persone.
Come convivere, allora, con l´algoritmo, anzi con le molteplici forme che questa tecnica assume, e con le reti neurali, con l´"autonomic computing", con tutto ciò che affida alla tecnologia la costruzione della nostra identità e così produce nuove, spesso invisibili, gerarchie sociali e insedia "l´algoritmo al potere" (è il titolo di un libro di Francesco Antinucci)? Non lo sappiamo, ma è possibile che, quando telefoniamo a un call center e ci sentiamo rispondere di "rimanere in linea per non perdere la priorità acquisita", siamo già nelle mani di un algoritmo che ci ha classificati come clienti poco interessanti e ci fa attendere all´infinito, mentre è fulminea la risposta per il "buon" cliente. Nella vita quotidiana s´insinua il germe di nuove discriminazioni, nasce il cittadino non più libero, ma "profilato", prigioniero di meccanismi che non sa o non può controllare, ben descritti in un libro curato da Mireille Hildebrandt e Serge Gurvitch e intitolato appunto "Profiling the European Citizen".
Nella società dell´algoritmo svaniscono garanzie che avrebbero dovuto mettere le persona al riparo dal potere tecnologico, dall´espropriazione della loro individualità da parte delle macchine. Una direttiva europea e molte leggi nazionali prevedono che tutti abbiano il diritto di conoscere la "logica applicata nei trattamenti automatizzati dei dati" e vietano ogni decisione "fondata esclusivamente su un trattamento automatizzato di dati destinati a valutare taluni aspetti della sua personalità". Queste norme ci dicono che il mondo dei trattamenti automatizzati delle informazioni non può essere senza regole e che il ricorso all´algoritmo non può divenire una forma di deresponsabilizzazione dei soggetti che lo adoperano.
Sono state messe sotto accusa le "macchine", che non possono difendersi e così diventano un comodo capro espiatorio. Ma l´imputazione impersonale del potere ad una entità esterna non può divenire la via per esercitare un potere senza responsabilità. Certo, l´algoritmo è uno strumento per razionalizzare procedure, calcolare variabili altrimenti difficili da governare, sottrarre decisioni importanti a pressioni improprie. E tuttavia porta con sé anche una difficoltà riguardante l´ampiezza delle variabili da considerare, i caratteri imprevedibili degli accadimenti, quella variabilità storica che ha indotto a dire che "un cavallo non corre mai due volte" per sottolineare i rischi delle scommesse sul futuro. E se questo è vero per il sistema finanziario internazionale, lo è ancora di più quando le decisioni riguardano le persone, diverse l´una dall´altra, collocate in contesti diversi, irriducibili a schemi.
Questa consapevolezza ormai diffusa dovrebbe indurre ad adottare almeno il "principio di precauzione" e a costruire un adeguato contesto istituzionale, oggi assai debole anche perché le norme ricordate sono aggirate o ignorate, per evitare che il rapporto sempre più importante tra l´uomo e la macchina venga governato solo dalla logica economica. Quando la relazione tra i poteri pubblici e privati e le persone viene basata su di un ininterrotto "data mining", sulla raccolta senza limiti di qualsiasi informazione che le riguardi, e affidato poi all´algoritmo, le persone sono trasformate in astrazioni, la costruzione della loro identità viene sottratta alla loro consapevolezza, il loro futuro affidato al determinismo tecnologico. Tutto questo incide sui diritti fondamentali, mette in discussione la libera costruzione della personalità e l´autodeterminazione, imponendo così di chiedersi se e come la società dell´algoritmo possa essere democratica.