Corriere della Sera, 22 agosto 2022
Usa, l’algoritmo anti-pedofili funziona male
Un padre di San Francisco scatta una foto al figlio nudo e la manda via email al medico, nell’impossibilità di farlo visitare durante la pandemia. È una piccola infezione ai genitali, bastano degli antibiotici. Ma il padre viene catturato dall’algoritmo che individua materiale pedopornografico, diventa l’obiettivo di un’indagine della polizia e perde dieci anni di foto e contatti, la posta su Gmail e il contratto di telefonia mobile con Google Fi. È la storia di Mark (ha chiesto di non essere identificato) raccontata dal New York Times: l’uomo si vede disconnettere improvvisamente, per aver condiviso «contenuti dannosi» che costituiscono «una grave violazione delle regole di Google e che potrebbero essere illegali». Tra la lista di possibili ragioni indicate, legge: «Abuso e sfruttamento sessuale di minorenni». Allora compila un modulo online, spiegando che le foto mostrano un’infezione del figlio, e aspetta la risposta dell’operatore. Alcuni giorni dopo, Google risponde che non riaprirà i suoi profili, senza spiegarne il motivo. È stato segnalato, a sua insaputa, alla polizia di San Francisco che poi lo scagiona. Ma un anno e mezzo dopo, i suoi account non sono stati riattivati.
La cooperazione dei giganti della tecnologia è ritenuta fondamentale per combattere la diffusione online di immagini di abusi sessuali nei confronti di minorenni, ma – osservano gli esperti interpellati dal quotidiano americano – ciò pone alcuni problemi per la privacy (un portavoce di Google spiega che l’azienda esamina i dati solo quando l’utente fornisce il suo assenso, come quando salva le foto nel cloud). Anche la moglie di Mark, che lo aveva aiutato a inviare via iPhone le immagini, ha temuto di essere «flaggata» da Apple: l’azienda annunciò l’anno scorso che avrebbe localizzato materiali abusivi nell’iCloud ma si è fermata a causa dei dubbi sulla privacy. Immagini di questo genere vengono segnalate milioni di volte ogni anno dai giganti del web (600.000 volte solo da Google nel 2021, con la disabilitazione di 270mila utenti). Tecnologie sempre più sofisticate permettono di localizzare immagini abusive non solo quando sono uguali o simili ad altre già contenute in database, ma anche mai viste, permettendo di salvare bambini a rischio. Ma la distinzione tra un nudo scattato per abuso o uno scattato per amore non è così semplice.