Cinquantamila.it La storia raccontata da Giorgio Dell'Arti

Il recente documento di papa Francesco per la 58ª Giornata mondiale della Comunicazioni sociali, Intelligenza artificiale e sapienza del cuore: per una comunicazione pienamente umana, interviene con urgenza nel dibattito globale, sollevando anche una serie di questioni fondamentali riguardanti l’impatto dell’IA sulla società, sottolineando l’impellente necessità di valutare attentamente le sue conseguenze sul benessere umano e sul tessuto morale della nostra collettività. All’interno di questo scenario, emerge con chiarezza l’importanza di un’indagine filosofica che sia in grado di offrire una prospettiva analitica incisiva e radicata nella comprensione profonda della condizione umana. In tal senso, il ricorso alla fenomenologia, la disciplina filosofica che si fa carico di esplorare le strutture dell’esperienza vissuta, può rivelarsi particolarmente utile per fare luce sulle dinamiche sottostanti i fenomeni tecnologici, bilanciando la valutazione delle sue potenzialità innovative con una critica acuta dei pericoli che può comportare. Dermot Moran, Joseph Professor of Catholic Philosophy al Boston College e Past President della Fisp (Fédération Internationale des Sociétés de Philosophie), è uno dei massimi esponenti della fenomenologia contemporanea. In questa veste, egli può aiutarci ad esplorare il terreno complesso delineato dal documento papale. Nella conversazione avuta con lui, Moran pone l’accento sull’etica, sulla salvaguardia della dignità umana, sulle sfide alla libertà umana delineando i tratti di un umanesimo nell’era della intelligenza artificiale.
In che modo considererebbe che il messaggio di papa Francesco interagisca con le tendenze attuali nella filosofia contemporanea, particolarmente in relazione allo sviluppo dell’intelligenza artificiale?
Questo documento è estremamente opportuno e benvenuto e smentisce l’affermazione che la Chiesa cattolica sia anti-scientifica o retrograda. In realtà, la Chiesa cattolica sta guidando il cammino tra le religioni mondiali nella sua riflessione critica sull’IA (che userò come termine breve per l’intelligenza artificiale generativa e i grandi modelli di linguaggio che stanno emergendo attualmente, offrendo qualcosa come “intelligenza” e persino “intelligenza generale”). Il documento del Papa, ben ponderato e ben articolato, pone molte domande profonde (ho contato almeno undici domande nel testo) a politici, scienziati, filosofi e teologi, riguardo la sfida dell’IA in relazione al «significato della vita umana, la costruzione della conoscenza, e la capacità della mente di raggiungere la verità». Il documento inizia con un endorsement fiducioso della capacità della mente umana, creata a immagine divina, di acquisire conoscenza scientifica in tutti i campi, inclusa l’IA. Il progetto di progredire nella razionalità scientifica è approvato: l’IA è un’altra opportunità per gli umani di realizzare la loro capacità di conoscere, sebbene il compito di conoscere sia infinito e noi siamo esseri finiti e limitati. Il documento offre poi una panoramica concisa delle principali minacce (politiche, economiche, sociali, psicologiche, persino spirituali) che l’IA generativa pone. Si conclude con una preghiera affinché l’IA sia impiegata per superare l’ingiustizia e la disuguaglianza e non per perpetuarle. Attualmente, molta filosofia contemporanea ha riconosciuto la necessità di riflettere profondamente su come il quadro tecno- scientifico stia trasformando l’umanità. La tecnologia non è solo un insieme di strumenti, come ha sottolineato Martin Heidegger; è un intero nuovo quadro ( Gestell) che contiene e promuove i suoi valori impliciti. Le piattaforme di social media, ad esempio, non sono neutre come alcuni dei loro creatori (ad esempio, Mark Zuckerberg) hanno insistito. Abbiamo quindi assolutamente bisogno di una supervisione etica e legale. Il documento adotta giustamente una prospettiva globale e universale. Inoltre, lo sviluppo dell’IA non può essere il possesso di pochi a beneficio di pochi. Naturalmente, il Papa, come leader spirituale, si concentra principalmente su questioni che riguardano la filosofia morale e, in effetti, l’antropologia filosofica. Molto giustamente, ricorda agli scienziati che queste nuove scoperte scientifiche sono situate all’interno del più ampio quadro dello sviluppo culturale umano. In questo senso, credo, ha ragione a enfatizzare la centralità dell’umano contro coloro che, entusiasti ma ingenuamente, accolgono un futuro post-umano o trans-umano! Sta anche invitando gli scienziati che lavorano con questi nuovi modelli di apprendimento automatico a essere criticamente riflessivi e a mantenere e promuovere i valori umani. La scienza è sempre stata sotto l’influsso del sogno di Prometeo di controllare e dominare tutta la natura. Ma rimaniamo esseri mortali, finiti, fragili, legati alla nostra casa terrena finita che è il nostro ambiente nel senso più profondo. Il Papa ci ricorda che l’esistenza umana è carica di valori e non può mai essere ridotta a un insieme di algoritmi; i valori umani devono sempre guidare le scienze. Non dovremmo mai abbandonare i valori umani riguardanti la giustizia, l’equità, l’uguaglianza, ai calcoli delle macchine, non importa quanto appaiano “intelligenti” nel setacciare i dati e prevedere le probabilità. Inoltre, il Papa è profondamente consapevole che anche i migliori sistemi di IA incorporano molti valori nascosti, presupposti e pregiudizi, che possono essere riduttivi o distorcenti o discriminatori, riflettendo esattamente le complessità del nostro mondo umano e non superandole. Le macchine devono rimanere controllate dagli umani «in possesso del proprio universo di valori», come afferma il documento. Filosofi e scienziati, quindi, hanno urgentemente bisogno di esaminare i valori impliciti in questi sistemi di IA e renderli responsabili ai nostri valori più profondi.
Quali potenziali minacce alla dignità umana considera particolarmente rilevanti alla luce delle riflessioni di papa Francesco sull’intelligenza artificiale?
Il documento del Papa elenca chiaramente i pericoli dell’apprendimento automatico, dell’”allucinazione” (ovvero, inventare cose), dell’affidabilità incerta, della capacità di disinformazione e distorsione, le possibilità (già manifeste) di “esclusione digitale”, minacce alla privacy, serie questioni riguardanti la proprietà dei dati e della proprietà intellettuale, e la capacità di generare nuove ingiustizie, ad esempio, l’IA che utilizza metodi di selezione per i candidati di lavoro che introducono nuove forme di discriminazione e pregiudizio. Il Papa è ansioso che i progressi scientifici promuovano il benessere umano o il “miglioramento” e non portino a discordie ancora maggiori e svantaggi. Nessuno dovrebbe essere escluso da questa nuova conoscenza. In effetti, ci sono già prove considerevoli di questa esclusione digitale; intere regioni del mondo non hanno accesso neanche all’elettricità o all’acqua pulita, per non parlare degli ultimi strumenti di IA. Ci sono anche molte questioni riguardanti la profonda distorsione della conoscenza che può influenzare affari politici e sociali, influenzando elezioni o altre discussioni politiche. Il Papa, quindi, chiama giustamente a regolamentazioni per assicurare che questi avanzamenti dell’IA proteggano gli individui e il bene sociale. Ci sono minacce di furto dell’identità di una persona, persino del proprio volto, voce, Dna, che vengono rimossi dal controllo del soggetto. L’uso dell’IA nella selezione degli esseri umani per lavori ecc. è carico di pericoli che coinvolgono forme di pregiudizio e discriminazione, sia consce che inconsce. È consapevole che gli umani possono essere manipolati con informazioni false, illusioni, dissimulazioni, simulacri, un mondo ombroso di apparenze proprio come la caverna di Platone. C’è la necessità di preservare il controllo umano su tutti i nostri sistemi di informazione. C’è la necessità di proteggere la dignità e l’integrità della persona umana. Quindi, la domanda è: come effettuare il controllo sullo sviluppo dell’IA per assicurare che soddisfi gli standard più elevati di cura e rispetto per i soggetti umani? Questo è chiaramente un compito in corso e che necessita di tutte le nostre discipline intellettuali e risorse. Religione e filosofia giustamente
hanno una voce.
Come considera l’impatto dell’intelligenza artificiale sulla nostra comprensione della libertà umana e della volontà?
Mi sembra che dobbiamo andare oltre la vecchia opposizione tra libertà e determinismo. Molti scienziati sono ingenuamente deterministici riguardo agli esseri umani e, infatti, riguardo all’universo stesso. La scienza contemporanea è effettivamente una manifestazione della volontà di potere su tutta la natura, inclusa la natura umana stessa. Ci sono già esperimenti che coinvolgono il presunto potenziamento dell’intelligenza tramite l’impianto (in umani e animali) di microchip che funzionano nel cervello stesso. Ci sono già preoccupazioni che gli scienziati sfrutteranno i vulnerabili in questi esperimenti, come in passato ci sono stati esperimenti su prigionieri, orfani e sui destituiti. Ma c’è anche la preoccupazione che l’IA perpetuerà le disuguaglianze. Certamente, i sistemi di IA hanno la capacità di darci più libertà rimuovendo la fatica, ma l’IA ha un pericolo ancora maggiore di schiavizzare l’umanità attraverso l’accesso e la manipolazione non regolamentati dei dati umani.
In quali modi il Papa percepisce il ruolo dell’intelligenza artificiale nel favorire una comunicazione autenticamente umana?
Il documento papale adotta giustamente una prospettiva universalista e una fiducia che il miglior uso della conoscenza scientifica sarà effettivamente a beneficio di tutta l’umanità. In questo senso, il documento è ottimista e non certo apocalittico. La lettera esige che poniamo
queste nuove scoperte al centro delle nostre preoccupazioni per il “miglioramento” umano (
human betterment ) e che ci educhiamo a gestire queste nuove realtà. Le nuove scoperte in ambito IA possono assistere noi meglio nell’accedere e condividere la conoscenza, assumendo che vogliamo genuinamente rimuovere le barriere. Dobbiamo proteggerci dall’esclusività nei benefici di questa conoscenza e anche dai pericoli dei sistemi di autoapprendimento IA che funzionano al di fuori del controllo umano tanto da costituire una minaccia esistenziale per la razza umana. Questo non è più roba da fantascienza. Abbiamo due imperativi fondamentali: proteggere tutta la vita umana e proteggere il nostro ambiente ecologico planetario. Oggi stiamo quasi annegando nell’inondazione di informazioni senza che ci sia un vero dialogo e comunicazione. Una posizione critica è profondamente necessaria per aiutarci a contrastare la disinformazione che si maschera da comunicazione.
A suo avviso, quali sfide e opportunità l’intelligenza artificiale potrebbe presentare per il futuro della società?
Le trasformazioni tecnologiche degli ultimi due secoli sono state un turbine. I modi di trasporto si sono spostati molto rapidamente dal cavallo e carrozza (onnipresenti prima della Grande Guerra) al treno, l’automobile, l’aereo e la navicella spaziale. Meccanizzazione e industrializzazione hanno effettivamente eliminato la fatica umana e liberato gli esseri umani per forme di attività superiori. I sistemi di satelliti forniscono comunicazioni a livello globale. Ma la tecnologia produce anche le armi di distruzione di massa che ovunque causano immense sofferenze. La scoperta e il dispiegamento effettivo delle bombe atomiche sono un costante promemoria del modo in cui la scoperta scientifica può portare a conseguenze orrende. Nonostante i nostri progressi tecnologici, il nostro mondo oggi ha ancora enorme sfruttamento e schiavitù; pensa all’orrore del lavoro minorile. L’IA deve essere usata per migliorare le condizioni dei lavoratori, ma non a costo di rendere i lavoratori poco qualificati permanentemente inoccupabili. La sfida più grande, come giustamente sottolinea il Papa, è preservare i valori umani e portare tutta l’umanità con noi in questo viaggio. Il Papa vede ciò in termini di realizzazione del piano divino per rendere la terra un luogo abitabile per gli esseri umani. Ci sono sfide significative al modo in cui comprendiamo gli esseri umani ma non dobbiamo abbandonare i nostri sforzi per mantenere la persona umana al centro delle nostre preoccupazioni. Dobbiamo frenare l’esuberanza dei tecnocrati prometeici, preservare le fonti dei valori umani e della libertà umana, e continuare ad esercitare il nostro controllo razionale sulle nostre vite per il miglioramento dell’umanità e del nostro mondo. Un fatto notevole che mi colpisce come filosofo e fenomenologo è come gli algoritmi e le procedure dell’IA (soprattutto i grandi modelli di linguaggio) siano effettivamente costruiti su e riproducano le dense assunzioni pre-predicative e la rete di credenze e pratiche che Husserl definiva il “mondo della vita” ( Lebenswelt). Sebbene i sistemi di IA possano essere infusi con le migliori prospettive “morali” e circondati da leggi e procedure esplicite per eliminare i pregiudizi, ecc., è chiaro che esiste un sistema di credenze e valori implicito ancora più ampio incorporato nei sistemi operativi delle piattaforme stesse. Ad esempio, uno strumento di IA di un’agenzia di reclutamento potrebbe filtrare i candidati i cui modelli di discorso non si conformano a ciò che l’IA considera educato. In questo senso, i filosofi hanno urgentemente bisogno di riflettere se l’antropologia filosofica attuale sia sufficiente per comprendere le sfide dell’IA. È necessario un radicale ripensamento della nostra esistenza umana per identificare e preservare i nostri valori più profondi.

LUCA MARIA SCARANTINO E GIOVANNI SCARAFILE