Cinquantamila.it La storia raccontata da Giorgio Dell'Arti

Compas è un algoritmo utilizzato in alcuni Stati americani per valutare il rischio di recidiva nei procedimenti penali. Il giudice può usare il punteggio di rischio per decidere se concedere la libertà dietro cauzione o stabilire la severità della pena. È stato spesso contestato perché i criteri di valutazione sono opachi (in quanto prodotto da una società privata che non ne svela il funzionamento interno) e vi sono stati casi documentati di pregiudizi razziali nei risultati prodotti. Il sistema “206”, sviluppato a Shanghai, è invece la più avanzata applicazione di intelligenza artificiale nella giustizia penale cinese. Coadiuva procuratori e giudici nella gestione dei procedimenti attraverso una funzione di raccomandazione di casi simili, che interviene nelle decisioni sull’arresto e nella proposta di pene. Il sistema di AI analizza dati storici ed elementi del procedimento specifico per suggerire misure coerenti con precedenti giudiziari simili che ritiene adatti anche per il reato in questione. Si tratta di alcune delle forme più avanzate di automazione dell’amministrazione della giustizia. Non automazione totale, non fantascienza alla Minority Report – racconto e film in cui si poteva arrestare preventivamente il responsabile di un delitto che stava per essere commesso grazie alla prescienza di individui speciali –, ma applicazioni delle nuove tecnologie che andranno ad allargarsi per almeno tre motivi sui quali vi è ampio consenso. La gestione dei casi può essere più rapida, può risultare meno costosa, può superare alcuni limiti dei decisori umani (stanchezza, incoerenza, conoscenze limitate delle sentenze precedenti). Il punto chiave resta però controverso: le decisioni basate sull’AI sono migliori in senso assoluto? Sono più oggettive e meno esposte a errori? Oppure rischiano di incorporare distorsioni sistematiche e mancano di quella componente di umanità che vogliamo dagli amministratori della giustizia? Sono domande fondamentali affrontate in un tempestivo volume – Decidere con l’IA. Intelligenze artificiali e naturali nel diritto (il Mulino, pagine 226, euro 22,00) – scritto da due indiscussi esperti della materia: Amedeo Santosuosso, già presidente della Prima Sezione Civile della Corte d’Appello di Milano e ora docente allo IUSS di Pavia, e Giovanni Sartor, professore di Informatica giuridica presso l’Università di Bologna e titolare di insegnamenti in altri atenei europei. Il libro che hanno scritto è meritoriamente “autoportante”, perché nella prima parte spiega con efficacia che cos’è l’intelligenza artificiale senza presumere conoscenze specialistiche o rimandare il lettore ad altre opere.
E poi svolge un compito molto utile. Non si lascia affascinare dalle punte più avanzate del diritto e dalla giustizia sostenuti dall’IA, bensì discute dei fondamenti epistemologici generali e delle caratteristiche specifiche della loro disciplina per mostrare vantaggi e rischi della svolta in corso. Una funzione che sembra banale e di basso impatto, come per esempio affidare la realizzazione dei repertori – ovvero i riassunti delle sentenze – a un sistema totalmente automatizzato, perché siano tempestivamente disponibili e facilmente utilizzabili, può nascondere insidie non da poco, se si procede senza considerare con cura i possibili effetti. A maggiore ragione, ciò vale per tutte le forme di predizione, cioè la previsione degli esiti delle controversie. Santosuosso e Sartor ne discutono dettagliatamente, consapevoli che il diritto è un’istituzione sociale cruciale, nel quale non si può delegare alle macchine a cuor leggero. Tra l’altro, il diritto, ancora tutto umano, è chiamato a normare l’intelligenza artificiale stessa, in un circuito di azione e retroazione di cui non si possono né immaginare né sottovalutare gli esiti. Per questo, la normazione e l’amministrazione della giustizia rimangono ambiti chiave rispetto all’utilizzo dell’AI, in cui servono conoscenze approfondite e capacità di procedere senza bruciare le tappe.

ANDREA LAVAZZA