Cinquantamila.it La storia raccontata da Giorgio Dell'Arti

Stai calmo e stupra un sacco». E’ la scritta su una t-shirt messa in vendita all’inizio di marzo sul sito britannico di Amazon.com. E poco dopo tolta dal catalogo per la valanga di proteste ricevute. Nel chiedere scusa al pubblico, i responsabili dell’azienda che l’aveva creata, Solid Gold bomb, hanno spiegato che si è trattato di uno spiacevole incidente: il loro modello di business si basa su algoritmi (formule matematiche che risolvono problemi attraverso un numero definito di passi), capaci di inventare slogan partendo da frasi famose. In questo caso il riferimento era a «Stai calmo e vai avanti», un manifesto di propaganda del governo di Londra durante la Seconda guerra mondiale. E così gli algoritmi hanno sfornato una serie di t-shirt con anche le scritte «Stai calmo e… picchiala forte /pugnalala /toccala».
E’ il perfetto esempio di come «la nostra economia dell’informazione completamente automatizzata possa sembrare un paradiso di ragione e razionalità, ma abbia anche un lato surreale», ha commentato sul New York Times Evgeny Morozov, l’esperto di media autore di To Save Everything, Click Here ovvero «La follia del soluzionismo tecnologico», un libro che, appena uscito negli Stati Uniti, sta facendo discutere tutto il mondo dell’high-tech.
Definizioni
«Soluzionismo» è, secondo Morozov, l’ideologia per cui «tutte le situazioni sociali complesse possono essere definite o come problemi nettamente delineati con soluzioni calcolabili o come processi trasparenti e auto-evidenti che possono essere facilmente ottimizzati, se solo si potesse avere il giusto algoritmo da usare». Morozov mette in guardia sui rischi di questa aspirazione, che può «avere conseguenze inattese peggiori dei problemi che cerca di risolvere». Un esempio è l’idea di combattere il crimine e addirittura prevenirlo pubblicando online le statistiche sui reati in una città, quartiere per quartiere: ma le statistiche possono basarsi su dati non completi o distorti, perché — come mostra la ricerca di una compagnia assicurativa britannica — gli abitanti di certi quartieri tendono a non denunciare tutti i crimini per paura di peggiorare l’immagine della loro comunità e deprimere i prezzi delle case. Un altro esempio è l’illusione di migliorare il modo di fare politica rendendolo più trasparente con l’uso della Rete. Era l’obiettivo di un gruppo di attivisti che ha pubblicato online i nomi di chi aveva appoggiato una legge in California contro il matrimonio fra gay: un’informazione pubblica, ma difficile da trovare nel mondo pre-Internet. Ora invece è disponibile con un clic, ma questo tipo di trasparenza, sottolinea Morozov, scoraggia la partecipazione politica di qualsiasi tendenza, destra o sinistra o centro.
Considerazioni
Se non ci rendiamo conto di questi rischi, finiremo in balia di tecnologie intelligenti sempre più invadenti e disegnate — spiega ancora Morozov — in modo da «minare la nostra autonomia e sopprimere comportamenti che qualcuno da qualche parte ha deciso essere non desiderabili».
Gli algoritmi pervadono la nostra vita quotidiana. Prendiamo Google. La società fondata da Larry Page e Sergey Brin ha fatto la sua fortuna — 276 miliardi di valore in Borsa — sull’algoritmo PageRank, che mostra i risultati delle ricerche su Internet secondo una classifica di rilevanza basata sugli interessi di tutti i navigatori sul web. La sua ambizione però va oltre: non solo interpretare, ma anche prevenire le domande; e, alla fine, usare tutti i dati accumulati sul cliente per diventare lo strumento indispensabile anche per lo shopping. Google farà così concorrenza ad Amazon.com, che pure basa il successo delle sue vendite sugli algoritmi per raccomandare ai clienti nuovi acquisti basati sui loro comportamenti online, realizzando in questo modo il 70% del fatturato da 61 miliardi di dollari. Quanto sono potenti gli algoritmi lo si vede anche in Borsa: il 70% dei 7 miliardi di dollari di scambi quotidiani sui mercati americani sono generati da programmi computerizzati.
Ma perfino Google sa che gli algoritmi non sono infallibili né onnipotenti. Per questo ha iniziato a integrare i loro automatismi con le correzioni di esseri umani in carne ed ossa. Sono essere umani a curare le banche dati da cui vengono le informazioni presentate nelle nuove schede che appaiono a destra in alto, di fianco ai risultati normali delle ricerche, quando il soggetto è un personaggio o un posto famoso. E sono esseri umani a dare il voto agli esiti delle ricerche partite da domande ambigue, da interpretare soggettivamente: a seconda del voto sulla loro accuratezza gli ingegneri aggiustano poi l’algoritmo. Una nuova tendenza che offre fra l’altro nuove opportunità di lavoro nell’industria high-tech.
Secondo un’indagine di Cio, la rivista dei capi aziendali dell’information technology, entro il 2018 negli Usa ci sarà bisogno di 100-200 mila nuovi analisti capaci di interpretare i Big Data, l’enorme quantità di informazioni accumulate da cui partono appunto le elaborazioni dei guru degli algoritmi.
Resta il problema che anche migliorati dagli umani gli algoritmi rischiano di inibire l’innovazione. Quali invenzioni possono nascere da formule basate sulla perfetta conoscenza dei recenti desideri della gente? «Se avessi chiesto ai consumatori che cosa desideravano, mi avrebbero chiesto dei cavalli più veloci», è una battuta famosa di Henry Ford, il creatore della prima auto di massa nel 1908. I soluzionisti sono avvisati.
Maria Teresa Cometto

MARIA TERESA COMETTO