Cinquantamila.it La storia raccontata da Giorgio Dell'Arti

Preferireste uccidere una donna anziana o un grassone? Messa così, la domanda suona assurda e anche un po’ perversa. In realtà la questione è serissima e a occuparsene sia pure indirettamente, sono stati fior di filosofi, come Tommaso d’Aquino o Immanuel Kant. Nel corso del Novecento il problema è stato sintetizzato nella sua forma più semplice come «dilemma del carrello ferroviario» (in inglese «trolley problem»): un treno marcia a tutta velocità in direzione di uno scambio da cui si dipartono due linee. Sulla prima sono legati quattro uomini, su una diramazione laterale l’uomo legato è uno solo. Fermare i vagoni è impossibile, ma voi avete in mano la leva dello scambio. Se non fate niente quattro persone moriranno, se azionate l’ingranaggio il treno scarterà lateralmente e ucciderete un uomo solo. Che cosa decidete? Trovare una soluzione consapevole presuppone lo studio di complessi giudizi etici sul concetto di male minore.
Il tema è interessante, si potrebbe pensare, ma è anche destinato a rimanere puramente teorico e di nessuna rilevanza pratica. E invece no. Perché da quando si sono iniziate a progettare le prime auto senza conducente la questione è diventata concretissima.
I «cervelloni» delle driverless car devono essere programmati per ogni evenienza, persino quella in cui si ripropone il dilemma del trolley. Su strada la questione può presentarsi in modi diversi: la macchina è lanciata in velocità e si rompono i freni. Sulle sempre più vicine strisce pedonali stanno attraversando due tipi di persone: da una parte un gruppo di anziani, dall’altra dei bambini. L’impatto è inevitabile, ma toccando il volante uno dei due gruppi si può salvare. Quale?
40 MILIONI DI RISPOSTE
Per rispondere a domande i questo tipo i programmatori della Silicon Valley hanno incominciato a occuparsi di dilemmi morali. E a interpellare università ed esperti. Tra questi ultimi c’è chi ha cercato di richiamarsi ai classici della filosofia e chi ha scelto strade alternative. Il Media Lab del Mit di Boston ha messo insieme una squadra di psicologi e di informatici e ha creato un sito, «Moral machine», ai cui visitatori vengono posti alcuni dilemmi del tipo illustrato sopra. L’obiettivo era avere un campione sulle preferenze della popolazione a livello internazionale. Ma l’esperimento è diventato quasi un gioco di società, fino a raggiungere un successo inatteso: in poco tempo gli studiosi si sono trovati con 40 milioni di risposte provenienti da tutto il mondo. Un mega-sondaggio globale che si è trasformato anche in una dichiarazione dei valori. E allora, di fronte all’impatto di una macchina senza conducente e alla necessità di scegliere un sopavvissuto, chi verrebbe salvato per primo? 
SALVATI E CONDANNATI
Le medie delle valutazioni raccolte nel mondo sono presentate nel grafico di queste pagine e al primo posto tra i «salvati» vengono scelti i pedoni che spingono un passeggino. Sulla stessa falsariga si situano le altre categorie che figurano ai primi posti: ragazzi, ragazze e donne incinte. Omaggi, in qualche modo prevedibili, alla sacralità della vita che sta per nascere o che è appena sbocciata. Più curiose invece le classi dei condannati, quelli che verrebbero più facilmente sacrificati all’ineluttabilità dell’impatto con un’auto senza conducente. Ai posti di retroguardia due animali, pure molto presenti nelle nostre case: i gatti (in assoluto ultimi in classifica), poi i cani. Tra gli uomini due categorie che appaiono quasi al di fuori del contratto sociale, i criminali e i mendicanti senza fissa dimora. Infine gli anziani e la categoria più sorprendente, su cui pare pesare una sorta di inatteso stigma, i ciccioni. Con una particolarità ulteriore: all’interno della stessa classe (per esempio atleti o manager) in tutti i casi viene preferita la donna. Tra i grassi, invece, è il contrario ed è la donna a raccogliere meno preferenze. 
La violazione della legge dell’efficienza fisica viene però «sanzionata» in maniera diversa da cultura a cultura. Gli studiosi del Mit, che hanno presentato i risultati della ricerca in un articolo sulla rivista Nature hanno distinto per le loro differenze tre aree fondamentali: l’area europeo-statunitense (a prevalenza di religione cristiana), l’area orientale (prevalenza di musulmani e confuciani), l’area latino-americana (dal Messico alla Patagonia). Le diverse mentalità si riflettono anche sulle scelte delle categorie da salvare. Nell’area asiatica, per esempio, la preferenza per i giovani è molto meno pronunciata che a livello generale, segno con tutta evidenza del tradizionale rispetto per autorità ed esperienza diffuso nei Paesi asiatici. Il contrario avviene nell’area latino-americana dove i ragazzi e le donne ricevono molti più «voti» che altrove e invece i grassi vengono puniti più severamente. Le differenze socio-economiche si traducono in corrispondenti giudizi di valore: nei Paesi ad alta diseguaglianza figure ad alto status come manager o dottori vengono di gran lunga preferiti, mentre questo non accade in società ugualitarie come quelle scandinave. Paesi «orientali» come Arabia, Giappone, e Indonesia, condannano in modo implacabile i criminali. 
ITALIA PIÙ UMANA CHE ANIMALISTA
Quanto ai singoli Paesi sono disponibili solo pochi dati. L’Italia si distingue per alcune specificità: è al quinto posto su 117 Paesi esaminati nelle preferenze per i giovani (prima in assoluto la Francia) e all’ottavo posto tra chi nella scelta tra umani e animali sacrifica senza problemi questi ultimi. La Penisola è invece praticamente a metà classifica per quanto riguarda le donne (quarantanovesima) e anche chi è sovrappeso viene guardato con qualche indulgenza (è quarantunesima nelle preferenze per chi è più in forma).
La presenza di sistemi di valori così diversi, dicono gli autori della ricerca, rende difficile l’adozione di identici principi per i sistemi di intelligenza artificiale. E un’ulteriore ostacolo è ingegneristico: i sistemi di rilevazione delle driverless car sono in grado di identificare la presenza di persone, ma non (o non sempre) di distinguere con precisione sesso ed età. In ogni caso, dicono gli esperti del settore, anche per le auto del futuro qualche incidente è inevitabile. «Il nostro principale obiettivo», ha detto Edmond Awad, che al Mit si è occupato della ricerca, «è stato quello di aprire un dibattito sui temi etici legate alla nuova tecnologia. E di anticipare quelli che potranno essere le reazioni dell’opinione pubblica una volta che questi incidenti accadranno». 

ANGELO ALLEGRI