Cinquantamila.it La storia raccontata da Giorgio Dell'Arti

I motori di ricerca di Google e Microsoft hanno un problema con i video porno deepfake. Da quando i deepfake hanno iniziato a emergere circa cinque anni fa, la tecnologia è stata costantemente utilizzata per commettere abusi e molestie contro le donne, sfruttando l'apprendimento automatico per inserire il volto di una persona in materiale pornografico senza il suo permesso. Ora il numero di video porno deepfake non consensuali sta crescendo a un ritmo esponenziale, alimentato dal progresso delle tecnologie di intelligenza artificiale e da un ecosistema in espansione.

Una nuova analisi condotta da un ricercatore indipendente e condivisa con Wired UK mostra quanto i porno deepfake siano diventati pervasivi. […] negli ultimi sette anni sono stati caricati almeno 244.625 video sui 35 siti web creati esclusivamente o parzialmente per ospitare video porno deepfake.

Nei primi nove mesi del 2023 su questi portali sono stati caricati 113mila video, con un aumento del 54 per cento rispetto ai 73mila filmati aggiunti in tutto il 2022. Entro la fine di quest'anno, secondo le previsioni dell'analisi, il numero di video prodotti nel 2023 supererà quello di tutti gli altri anni messi insieme.

[…]  Sono molto diffuse anche le applicazioni per lo scambio di volti che operano su immagini fisse e le applicazioni che consentono di “spogliare” una persona ritratta in una foto con pochi clic. È probabile che le immagini create con queste app siano milioni.

"È una cosa che prende di mira la gente comune, le studentesse delle scuole superiori, le adulte di tutti i giorni: è diventato un fatto quotidiano – afferma Sophie Maddocks, che conduce ricerche sui diritti digitali e sulla violenza sessuale informatica presso l'Università della Pennsylvania –. Sarebbe molto diverso se riuscissimo a rendere più difficile l'accesso a queste tecnologie. Non dovrebbero bastare due secondi per istigare potenzialmente un reato sessuale".

La nuova ricerca […] non prende quindi in esame i video pubblicati sui social media, quelli condivisi in privato o le foto manipolate […]. Molti di questi siti indicano chiaramente che ospitano o diffondono video porno deepfake, includendo spesso il termini o i suoi derivati nel nome. […] Lo studio ha anche identificato altri 300 siti porno canonici che incorporano in qualche modo deepfake non consensuali, a cui si aggiungono i portali dedicati ai "leak" e quelli che ripubblicano le foto dei social media.

Misurare la portata dei video e delle immagini deepfake online è incredibilmente difficile, da una parte perché rintracciare dove questi contenuti vengono condivisi sui social media è complicato, e dall'altra perché i deepfake sono condivisi anche in gruppi di messaggistica privata o in canali chiusi, spesso da persone conosciute dalle vittime. […]

"La disponibilità di strumenti AI per la creazione di immagini pornografiche deepfake non consensuali è cresciuta in modo significativo e la domanda di questo tipo di contenuti è aumentata sulle piattaforme pornografiche e sulle reti illecite online", speiga Asher Flynn, professore associato presso la Monash University in Australia. E il fenomeno è destinato ad aumentare con i nuovi strumenti di intelligenza artificiale generativa.

La porta d'accesso a molti siti e strumenti per creare video o immagini deepfake sono le ricerche online. Dei milioni di persone che vengono indirizzate verso i portali al centro dello studio, il 50-80 per cento ci arriva in questo modo. Si tratta di un problema è globale[…]

E se a cinque anni dalla comparsa dei deepfake stanno arrivando le prime leggi che ne criminalizzano la condivisione, gli strumenti necessari per creare questi video sono diventati più facili da usare e anche la loro qualità è migliorata. Secondo Flynn, la proliferazione delle app di deepfake combinata con una maggiore dipendenza dalle comunicazioni digitali nell'era del Covid-19 e con "l'incapacità di leggi e politiche di tenere il passo", ha creato la “tempesta perfetta”. Gli esperti affermano che è necessaria una migliore sensibilizzazione sulle nuove tecnologie unita a misure per fermare la diffusione degli strumenti dannosi, anche da parte delle aziende che ospitano i siti e i motori di ricerca, come Google e Bing.

Henry Ajder, un esperto di deepfake e di AI generativa che monitora la diffusione di queste tecnologie, sostiene che l'aggiunta di un maggiore "attrito" può ridurne la diffusione dei deepfake e delle app per spogliare le persone: “Il punto è cercare di rendere la ricerca il più difficile possibile – spiega Ajder –. […].

"Come ogni motore di ricerca, Google indicizza i contenuti che esistono sul web, ma progettiamo i nostri sistemi di ranking per evitare di scioccare le persone con contenuti dannosi o espliciti che non si aspettano e non vorrebbero vedere", afferma il portavoce di Google Ned Adriance, che rimanda alla pagina del blog di Google in cui l'azienda spiega i casi i cui rimuove dei contenuti dai suoi risultati di ricerca. Nelle pagine di supporto di Google si legge che è possibile richiedere la rimozione della "falsa pornografia involontaria". Il modulo per la rimozione chiede agli utenti di inserire manualmente gli url in questioni e i termini di ricerca utilizzati per trovare il contenuto. […] Courtney Gregoire, Chief digital safety officer di Microsoft, afferma che la società non consente i deepfake, che possono essere segnalati attraverso i suoi moduli web. “[…]

Flynn, il docente della Monash University, spiega che nella sua ricerca ha registrato "alti tassi" di disturbi psicologici – come ansia, depressione, autolesionismo e suicidio – in conseguenza di abusi digitali. "Il potenziale impatto sulla salute mentale e fisica di una persona, così come sulla sua vita lavorativa, familiare e sociale, può essere immenso – sottolinea – indipendentemente dal fatto che l'immagine sia deepfake o reale".

ESTRATTO DELL'ARTICOLO DI MATT BURGESS