Cinquantamila.it La storia raccontata da Giorgio Dell'Arti

Tre dei quattro consiglieri d’amministrazione di OpenAI che due settimane fa hanno tentato di imporre un brusco cambio di rotta alla società leader mondiale dell’intelligenza artificiale licenziando il suo fondatore e capo, Sam Altman, il padre di ChatGPT, sono seguaci dell’effective altruism: una corrente di pensiero – qualcuno la considera una filosofia, ma è soprattutto un’ideologia, anche se in qualche modo derivata dall’utilitarismo di Jeremy Bentham – che, a dispetto delle sue basi assai fragili, ha fatto molti proseliti soprattutto nel mondo tecnologico della Silicon Valley. Dove è divenuta per molti quasi un culto e ha trovato il generoso sostegno dei miliardari del digitale.
In ritirata dopo il fallito golpe in OpenAI e la condanna per truffa del principale propagandista e finanziatore, Sam Bankman-Fried, che dovrà scontare molti anni di carcere per le frodi commesse con la sua criptovaluta, FTX, la corrente (o setta) degli altruisti efficaci (spesso seguaci anche del cosiddetto «longtermismo»), rimane molto influente nel mondo hi-tech Usa e soprattutto tra le avanguardie dell’intelligenza artificiale.

OpenAI è solo la punta dell’iceberg. Quando, sei mesi fa, Google-Alphabet ha deciso di fondere le sue principali attività nell’intelligenza artificiale – i laboratori di ricerca di Deep Mind e le attività di Google Brain – sono subito emersi conflitti e incomprensioni culturali. Alcuni hanno addirittura parlato di matrimonio forzato con gli scienziati di Deep Mind che hanno adottato i principi ideali dell’effective altruism, mentre i dipendenti di Google Brain, lontani dalle preoccupazioni esistenziali degli altruisti, si sono concentrati sugli usi pratici dell’IA e su come limitare gli abusi. E, a proposito di matrimoni, ce n’è stato uno vero che dà l’idea di quanto queste ventate ideologiche siano penetrate nella vita quotidiana dell’aristocrazia dell’intelligenza artificiale. Il «Wall Street Journal» ha raccontato che quando, nel 2017, Holden Karnofsky, fondatore della società di ricerche sulla beneficenza Open Philanthropy e di GiveWell che analizza costi e benefici delle donazioni, si è sposato con Daniela Amodei, allora manager di OpenAI (dalla quale uscirà, poi, col fratello Dario per dar vita al concorrente «etico» Anthropic), gli invitati furono esortati a sostenere l’altruismo efficace donando generosamente a GiveWell e a leggere un saggio di 457 pagine del filosofo tedesco Jürgen Habermas: «Il contesto necessario per comprendere il nostro matrimonio», intimava l’invito.

Ma in che cosa credono questi altruisti animatori di discussioni ubique e interminabili in luoghi come l’università californiana di Berkeley dove molti, ormai stremati, hanno scritto davanti alle loro residenze «no AI zone» nel tentativo di chiamarsi fuori dal dibattito? Il bisogno di molti, soprattutto geni delle start up e nuovi ricchi della tecnologia, di trovare modi di fare beneficienza più moderni e incisivi rispetto alla filantropia classica, emerge una ventina d’anni fa, ma l’altruismo efficace definisce il suo impianto teorico solo all’inizio dello scorso decennio: all’origine del movimento ci sono un filosofo australiano, Peter Singer, e un giovane docente di filosofia ad Oxford, lo scozzese William MacAskill.
L’idea centrale è che quando si destinano risorse per aiutare il prossimo bisogna studiare attentamente il modo di massimizzarne l’efficacia: quindi non limitarsi alle cause benefiche a portata di mano, ma guardare lontano. Fare filantropia cercando di essere imparziali, dando priorità alle cause considerate più importanti e impellenti, misurando l’efficacia degli interventi con l’analisi costi-benefici. Gli altruisti efficaci in questi anni hanno pubblicato molti libri: manifesti che invitano all’azione, manuali di condotta pratica, immersioni filosofiche in un futuro immaginario.
The Drowning Child and the Expanding Circle di Peter Singer ruota, per dirla in modo sintetico, intorno all’immagine di un bambino che affoga davanti ai tuoi occhi. Hai l’obbligo morale di salvarlo. Per farlo ti getti in acqua e rovini i tuoi vestiti, ma la vita del bimbo vale molto di più. Perché, si chiede Singer, allora non destini una cifra pari al valore dei tuoi vestiti alla lotta contro la malaria salvando, così, non uno ma più bambini? Il filosofo australiano non accetta spiegazioni legate a considerazioni emotive o di lontananza: dice che la distanza non modifica gli obblighi morali.
Nel suo saggio più di recente, What We Owe the Future («Quello che dobbiamo al futuro»), MacAskill spiega il suo longtermismo guardando molto lontano: nell’ipotesi che l’umanità duri, come altre specie di mammiferi, un milione di anni e considerando che i primi umanoidi conosciuti risalgono a 300 mila anni fa, fermare il deterioramento del clima, controllare l’intelligenza artificiale e combattere le pandemie serve non solo a salvare noi che viviamo oggi, ma soprattutto i nostri discendenti: la fine dell’umanità significherebbe impedire a migliaia di miliardi di vite potenzialmente felici di sbocciare. Poi, sul suo sito Giving What We Can, il filosofo scozzese passa a consigli pratici basati su calcoli alquanto discutibili. Ad esempio sostiene che, se vuoi migliorare l’ambiente, essere vegetariani è una buona cosa. Ma se versi tremila dollari a una charity dell’energia pulita tuteli il clima molto più che rinunciando a mangiare carne.
All’inizio gli altruisti efficienti applicano i loro precetti alla sanità, alla tutela ambientale, alla protezione dal rischio delle catastrofi naturali, addirittura al benessere degli animali: sostituti vegetali della carne o carne prodotta in laboratorio invece di quella che esce dai mattatoi. Dopo poco, però, il focus si sposta sempre più verso l’universo della tecnologia. MacAskill, come abbiamo visto, aggancia all’altruismo il suo longtermismo: bisogna guardare lontano, ed è meglio donare a una causa che verrà perseguita nel lungo periodo, ma che potrebbe dare maggiori possibilità di sopravvivenza dell’umanità, piuttosto che aiutare l’homeless accampato sotto casa.

A questo punto interviene, con le sue tesi apocalittiche, Nick Bostrom, filosofo svedese di Oxford. Studia i rischi esistenziali e arriva ben presto a denunciare il pericolo di estinzione del genere umano per usi maldestri di tecnologie come la biologia sintetica, la manipolazione genetica, le nanotecnologie. Da qui all’intelligenza artificiale il passo è breve. Il movimento si concentra sempre più sulle grandi questioni etiche della tecnologia e attira anche i tycoon miliardari della Silicon Valley. In America, Paese del capitalismo ruggente e di ridotte tutele sociali, i ricchi hanno sempre avuto l’istinto di donare una parte più o meno rilevante delle loro ricchezze a cause filantropiche dando il loro nome – Morgan, Carnegie, Rockefeller – a musei, teatri, biblioteche, padiglioni universitari: c’è chi vuole farsi perdonare i modi brutali usati per costruire imperi industriali e finanziari in pochi anni e chi, semplicemente, vuole give back to the community: restituire alla società un po’ della ricchezza accumulata. Una sorta di miniredistribuzione privata parzialmente sostitutiva di quella che non viene fatta dallo Stato usando le (ridotte) entrate fiscali.
I nuovi ricchi della tecnologia cercano modi di fare beneficienza più moderni e incisivi di quelli della filantropia classica: altruismo efficiente e longtermismo piacciono a questo mondo benestante e individualista perché, togliendo l’enfasi sull’aiuto immediato ai bisognosi che sono intorno a noi e spostando gli obiettivi verso grandi cause da affrontare con interventi di lungo periodo, in un certo senso anche l’egoismo diventa filantropico: lo stesso fatto di accumulare una fortuna è un pezzo di beneficenza se chi la mette insieme pensa un giorno di usarla per intervenire su uno dei problemi strutturali irrisolti dell’umanità. È la logica che ha spinto, nel 2014, il fondatore di Google, Larry Page, a dire che la cosa più filantropica che poteva fare era quella di donare la sua fortuna a Elon Musk: per lui la Tesla, che diffonde il trasporto elettrico non inquinante, e SpaceX, che porterà l’umanità su Marte, sono esse stesse organizzazioni filantropiche. Nulla di strano, poi, se Elon, che da quando ha conquistato Twitter/X ha sviluppato il lato narcisista della sua personalità e appare più interessato ad essere un influencer che pesa sulla politica americana e prova a incidere sugli equilibri geostrategici che a sviluppare ulteriormente le sue straordinarie capacità ingegneristiche, si atteggia a benefattore dell’umanità. Musk, che ha altre origini culturali, non fa parte del movimento degli altruisti efficienti, ma ha definito più volte le idee di MacAskill «molto vicine alla mia filosofia». E ha elargito molti milioni di dollari. Come Elon, anche il suo ex «compagno di banco» Peter Thiel (hanno creato insieme Paypal, poi lui è stato il primo investitore in Facebook e con Palantir è divenuto il grande fornitore di tecnologie segrete per i servizi di intelligence e le forze armate Usa) non aderisce formalmente al movimento, ma lo ha finanziato. Lo stesso hanno fatto il fondatore di Ether/Ethereum (piattaforma di blockchain e criptovaluta) Vitalik Buterin e diversi altri tycoon digitali.
I miliardari che si sono impegnati nell’effective altruism in modo pieno e con finanziamenti massicci, sono soprattutto tre: l’estone Jaan Tallinn, cofondatore di Skype; il cofondatore di Facebook Dustin Moskovitz (Helen Toner e Tasha McCauley, due dei quattro consiglieri di OpenAI che hanno cercato di defenestrare Altman sono state attiviste di organizzazioni vicine al miliardario mentre anche un terzo «congiurato», Adam D’Angelo, in passato ha lavorato con lui) e, soprattutto, Sam Bankman-Fried. Lui, prima della rovinosa caduta e dell’incarcerazione, ha costruito anche sulla sua fama di filantropo (ha effettivamente elargito miliardi) l’accumulazione di un patrimonio, basato sulla fiducia accordatagli dagli investitori, valutato all’apice della sua popolarità 26 miliardi di dollari.

Come abbiamo visto, queste teorie, spesso prive di coerenza interna, hanno comunque trovato grande seguito nel mondo della tecnologia anche per i motivi illustrati in queste pagine dal filosofo Luciano Floridi e dal teologo e studioso dell’etica della tecnologia Paolo Benanti. Ma le suggestioni dell’altruismo efficace si sovrappongono e si mescolano con quelle di altre ideologie che si sono diffuse negli ultimi anni soprattutto grazie ai social media: dal transumanesimo (che promette la reingegnerizzazione della nostra specie per creare una razza superiore di postumani) alla singolarità di Ray Kurzweil con lo sviluppo tecnologico che supera le capacità di comprensione umana dando luogo non a catastrofi, ma a un’esplosione di intelligenza che apre la meravigliosa era della «radicale abbondanza».
Timnit Gebru, scienziata, attivista politica ed ex capo del team per l’etica dell’intelligenza artificiale di Google (ha lasciato l’incarico in polemica con l’azienda) ed Emile Torres, attivista e studioso di superintelligenza e rischi esistenziali, hanno addirittura creato un nuovo acronimo per identificare questo cluster (significa grappolo, ma forse si può anche parlare di matassa) di ideologie che si incrociano e sovrappongono: Tescreal, dalle iniziati di transhumanism, extropianism, singularitarianism, cosmism, rationalism, effective altruism e longtermism.
L’ingloriosa fine dell’avventura finanziaria ma anche ideologica di Bankman-Fried, l’implosione della governance altruista di OpenAI, i conflitti tra le diverse sette, stanno cominciando a far emergere qualche defezione nello strano mondo della filantropia utilitarista. Tra le prime quelle di Tallinn che, dopo avere ampiamente propagandato e finanziato l’effective altruism, confessa al sito Semafor: «La crisi di governance di OpenAI mette in luce la fragilità di schemi di gestione basati su un ricorso volontario all’altruismo. Il mondo non deve più prendere queste ricette alla lettera».

MASSIMO GAGGI