Cinquantamila.it La storia raccontata da Giorgio Dell'Arti

«Il rumore dovrebbe fare scandalo. La gente ci convive, ma non è così che dovrebbe essere».

Il rumore a cui si riferiscono in queste righe Daniel Kahneman, Olivier Sibony e Cass R. Sunstein è un rumore senza suono. È il rumore — il livello di incertezza — che accompagna ogni nostra decisione, ogni nostro giudizio, e che si allarga alle valutazioni dei professionisti che consultiamo, a ogni livello, fino alla politica e ai governi. È «un difetto del ragionamento umano», pervasivo ed elusivo, che facciamo di tutto per ignorare.

Daniel Kahneman, professore di Psicologia a Princeton, ha vinto il Nobel per l’Economia per i suoi studi sui processi decisionali. La maggior parte di noi ha familiarizzato con le sue teorie leggendo Pensieri lenti e veloci, uscito in Italia nel 2012 da Mondadori e diventato uno dei saggi di maggior successo e durata in circolazione. In quel libro, Kahneman proponeva la distinzione fra due tipi di pensiero: il «sistema 1», intuitivo, impaziente, veloce, e il «sistema 2», più lento e faticoso, riflessivo, analitico, votato alla sorveglianza del pensare stesso. Ci mostrava, citando a ogni passo le evidenze sperimentali, come nella nostra vita siamo quasi sempre in balia del sistema 1, sottoposti a continui vizi di ragionamento, scorciatoie, bias cognitivi. E come troppo spesso, rispondendo interiormente a una domanda, stiamo in realtà rispondendo a una domanda diversa, più semplice, con cui abbiamo sostituito quella di partenza.

Per esempio, se ci chiediamo: «credo al cambiamento climatico?», è probabile che risponderemo a: «mi fido di chi ne dichiara l’esistenza?»; quando ci domandiamo se un chirurgo sia o no competente, stiamo in realtà valutando se si presenta autorevole e sicuro di sé. E se ci spingiamo incautamente a riflettere se siamo soddisfatti o meno della nostra vita, daremo una risposta che riguarda il nostro umore del momento.

Insomma, peschiamo le verità da ciò che abbiamo più a portata. Le creiamo secondo il nostro comodo. Kahneman ribattezzò queste pigrizie del pensiero «euristiche». Euristica della disponibilità, dell’affetto, dell’umore. Da quando il suo libro è comparso e si è imposto nel largo pubblico come una specie di raffinatissimo manuale di autoaiuto, la ricerca sulle euristiche è andata avanti, fino a una caratterizzazione molto specifica. Il termine bias è diventato di uso pressoché comune. Eppure, mai come nell’anno e mezzo di pandemia trascorso ci siamo resi conto di quanto le euristiche e i bias agiscano davvero su di noi, di quanto determinino non solo le nostre opinioni, ma ispirino le regole stesse a cui siamo sottoposti.

Rumore (Utet), scritto insieme a Olivier Sibony e Cass Sunstein — li indicherò unitamente con la sigla KSS da qui in avanti —, prosegue l’esplorazione di Pensieri lenti e veloci. Individuando un’altra fonte di disturbo nei nostri giudizi, il rumore per l’appunto. Ho conversato con Daniel Kahneman via Zoom, e ripercorso con lui alcune idee chiave che vengono presentate nelle oltre 400 pagine del saggio.

«Il punto di partenza», mi ha detto, «è intendere il giudizio (umano) come una misurazione. La teoria della misura, che governa tutte le scienze, risale a più di due secoli fa, a Carl Friedrich Gauss. Sappiamo che, se misuri la lunghezza di una linea con un righello molto preciso, e lo fai molte volte, non otterrai sempre lo stesso risultato».

Infatti, otterrai una distribuzione di lunghezze, da cui calcolare una media e il suo errore. Questo errore ha una doppia origine: sistematica (per esempio se il righello ha dei difetti di costruzione) e casuale, ovvero intrinseca all’atto stesso del misurare, dovuta al fatto che due misurazioni non saranno mai identiche tra loro.

«Quando emettiamo un giudizio», mi dice Kahneman, «facciamo qualcosa di molto simile a misurare la lunghezza di una linea con un righello. Un medico che esprime una diagnosi sta dando una misurazione secondo una scala sottostante. E un giudice che emette una sentenza sta fornendo una misura rispetto a una scala diversa».

Analogamente, i giudizi umani avranno quindi i loro errori associati, in parte sistematici (le euristiche, i bias) e in parte casuali (il rumore). Il Rumore del titolo è l’errore nei giudizi dovuto alla loro variabilità, al fatto che nessuno pensa in modo identico a un altro. Ma, «se dei bias ormai si parla molto, il rumore non è mai stato studiato, almeno fino a ora. Sebbene, nelle decisioni importanti, sia spesso dominante».

Mi rendo conto che potrebbe sembrare molto teorico. Ma assorbire l’idea che esistano diverse fonti di incertezza nel modo in cui valutiamo la realtà è quasi tutta la teoria che serve per proseguire il ragionamento (e la lettura del libro). Le conseguenze del rumore che disturba i nostri giudizi, d’altra parte, sono tremendamente pratiche. E inquietanti. Perché il rumore si dimostra un problema serio soprattutto negli ambiti in cui ci aspetteremmo, istintivamente, il livello massimo di oggettività, quegli ambiti dove ci viene richiesto di fidarci del giudizio e dell’esperienza di qualcuno. La legge e la medicina, che prima o poi ci riguardano tutti, si dimostrano ad esempio campi in cui il rumore è altissimo.

«Le nostre ricerche», mi dice Kahneman, «sono iniziate dallo studio di una compagnia assicurativa. È stato chiesto a diversi broker di fissare un premio in dollari per un certo tipo di rischio. Ovviamente nessuno di noi si aspettava che due broker diversi individuassero la stessa identica cifra. Ma quale percentuale di differenza prevedevamo nelle loro valutazioni? I dirigenti della compagnia assicurativa si aspettavano una variabilità intorno al 10 per cento. Più o meno tutti risponderebbero qualcosa di simile, d’istinto. Bene, gli studi hanno mostrato che la differenza media era di più del 50 per cento».

Dunque c’è molto più rumore di quanto ci aspettiamo. Esperimenti simili sono stati poi condotti sui giudici e sui medici. Nel libro ne sono riportati diversi, e sono preoccupanti. Condanne alla reclusione in carcere che variano in maniera imbarazzante per severità. Diagnosi straordinariamente diverse a partire dallo stesso quadro clinico. Insomma, non solo c’è molto più rumore di quanto ci aspettiamo: c’è molto più rumore di quanto ci aspettiamo ovunque. «Il sistema giudiziario è rumoroso, quello sanitario e quello assicurativo lo sono, mi dice Kahneman. Un cittadino davanti a un giudice, a un medico, a un broker partecipa di fatto a una lotteria».

È perfino peggio di così. Perché non è solo il sistema a essere rumoroso. Il rumore proviene da ognuno di noi singolarmente. Un radiologo che esamina la stessa lastra a una distanza di tempo sufficiente per non riconoscerla, si trova facilmente in disaccordo con sé stesso. «Valutando il livello di ostruzione in un’angiografia», scrivono KSS, «ventidue medici si sono dimostrati in disaccordo con la loro stessa analisi tra il 63 per cento e il 92 per cento delle volte».

Non è il fatto in sé a sconvolgere, ma l’entità del disaccordo interno, quel «tra il 63 per cento e il 92 per cento delle volte». Elementi che non dovrebbero influire sul giudizio, poi, lo influenzano eccome. «Uno studio condotto su circa settecentomila medici di base ha dimostrato che questi ultimi sono molto più propensi a prescrivere oppioidi alla fine di una lunga giornata di lavoro»; «i giudici sono più propensi a concedere la libertà condizionale all’inizio della giornata o dopo la pausa pranzo che non immediatamente prima di una pausa» e sono «più clementi con gli imputati nel giorno del loro compleanno».

Certi assiomi stessi della giustizia vengono messi in dubbio da KSS. Per molto tempo, ad esempio, le impronte digitali sulla scena di un crimine sono state considerate dirimenti dal sistema americano. «Ci sono tre risposte possibili», mi dice ora Kahneman, «da parte dell’esperto che esamina le impronte: appartengono sicuramente all’imputato; sicuramente non gli appartengono; non lo sappiamo con certezza. Gli studi mostrano che, rispetto alle stesse impronte digitali valutate in momenti diversi, difficilmente un esperto modificherà la sua versione in maniera radicale, tra “appartengono” e “non appartengono”, o viceversa. Ma la variabilità fra il sapere e il non sapere è invece altissima. Questo è del tutto inaspettato per noi, ma ha senso, perché le impronte sulla scena di un crimine non sono nitide come quelle prese all’aeroporto. Subentra una dose importante di giudizio personale, e ovunque esiste il giudizio, esiste rumore».

Gli «esperti», mi viene in mente ascoltandolo, sono stati una costante nell’anno e mezzo di pandemia. Un periodo più silenzioso di altri eppure eccezionalmente «rumoroso», secondo l’accezione specifica di Kahneman. Spesso, anzi, il disaccordo è germogliato proprio tra gli esperti.

«Si è trattato di una situazione simile a quella degli assicuratori. Molti governi si sono confrontati con un problema quasi identico. E abbiamo assistito a una variabilità enorme nelle politiche attuate a partire dalle stesse evidenze. Quel rumore esisteva anche all’interno della comunità scientifica, sono state date interpretazioni diverse degli stessi fatti. L’informazione che ne scaturiva risultava spesso incoerente, quindi infondata. Il rumore a cui i cittadini sono stati esposti è stato uno dei problemi maggiori della pandemia, perché ha reso difficile fidarsi di chiunque. Il rumore è sempre disorientante».

Un altro problema è stato la carenza di «pensiero statistico». Negli ultimi mesi abbiamo avuto sotto gli occhi più percentuali che mai, fino alle ultime, sull’efficacia dei vaccini. «In generale», dice Kahneman, «distinguiamo tra due tipi di pensiero: il pensiero causale, che applichiamo ogni volta che ci raccontiamo una storia per spiegare il mondo, e il pensiero statistico, che usiamo quando non guardiamo a un singolo evento, ma a un ensemble di eventi. Viene fuori che noi esseri umani siamo molto forti nel pensiero causale e molto deboli in quello statistico. Anche per questo i bias sono più facili da riconoscere del rumore. Perché di un singolo evento posso dire: ecco, l’errore commesso è dovuto a quel bias. Il rumore invece è invisibile in un caso singolo, ne servono molti per riconoscerlo».

Ma nel libro viene fatto un passo ulteriore, spiazzante: l’invito a pensare collettivamente anche quando si deve prendere una decisione singola.

«La verità difficile da accettare è che io stesso non sono una singola persona, ma una moltitudine che genera rumore nei propri giudizi. Come posso ridurre questo rumore interno per migliorare le mie decisioni? Olivier Sibony è venuto fuori con questo slogan che ho trovato brillante: una decisione singola è una decisione ricorrente che viene presa una sola volta. Anche se è unica, quindi, posso immaginarla come una decisione fra le tante simili sullo stesso problema».

Eccolo, il pensiero statistico. Significa pensare a sé stessi, alla propria vita, anche come a un’organizzazione, un business. Può sembrare odioso, ma in Rumore compaiono diverse raccomandazioni che d’istinto appaiono odiose. A quanto pare, la strada verso l’«igiene decisionale» che gli autori perseguono passa dalla destituzione di certe nostre convinzioni e abitudini troppo confortevoli.

«L’igiene decisionale è una pratica, esattamente come lavarsi le mani. Quando ti lavi le mani, non sai quali germi stai uccidendo, ma li stai uccidendo. Nelle procedure che presentiamo nel libro, l’errore dovuto al rumore viene ridotto, anche se non sai bene cos’è. Abbiamo dedicato molto tempo all’esempio delle assunzioni, perché si applica ad altri ambiti. Come dev’essere condotto un colloquio, qual è la procedura migliore per selezionare il personale. È molto chiaro che l’intuizione, a cui molte aziende fanno ricorso, non è la tecnica migliore. In un colloquio standard viene creata un’impressione sul candidato entro i primi due o tre minuti. Tutto quello che avviene dopo, gli studi lo evidenziano, serve quasi unicamente a confermare quell’impressione. Bisogna invece pensare al lavoro che il candidato dovrà svolgere, alle singole caratteristiche necessarie per svolgerlo bene — puntualità, originalità, leadership, socialità eccetera —, e svolgere colloqui separati e mirati per ognuna».

Sezionare, insomma. Valutare i singoli pezzi e solo infine riaggregare la persona intera, lasciando filtrare un minimo di intuito. Lo stesso, secondo KSS, andrebbe fatto nelle altre scelte, per esempio quando valutiamo un investimento in denaro: trattare le nostre decisioni personali come se fossero dei colloqui lavorativi. Ammetto che, ascoltandolo, così come leggendo la descrizione dettagliata dell’iter glaciale di assunzione a Google, ho provato antipatia per il metodo. Ma al tempo stesso mi rendevo conto che l’antipatia era proprio quel genere di giudizio inquinante, rumoroso, che le raccomandazioni di Kahneman mi spingevano ad accantonare. Forse, mi sono detto, non sono ancora arrivato a ragionare limpidamente sulla realtà come farebbe un’azienda di tech.

Da queste considerazioni alla superiorità degli algoritmi rispetto alle valutazioni umane, il passo è breve. Fra tutti, è forse questo l’aspetto più controverso, a suo modo anche più innovativo, di Rumore: rovesciare l’idea dominante che gli umani siano e saranno sempre migliori delle intelligenze artificiali nel valutare gli altri umani. E così nell’infliggere pene, nel formulare diagnosi. Nel dare giudizi sul mondo.

«C’è molta evidenza», mi dice Kahneman, «e non è evidenza nuova, che l’introduzione sistematica di regole porta a decisioni migliori di quelle prese in base all’istinto. Se gli algoritmi sono forniti di informazioni sufficienti, produrranno giudizi più accurati di quelli umani. È molto difficile da accettare, ma le prove in questo senso sono schiaccianti. E il motivo è che un algoritmo a cui viene presentato lo stesso problema due volte, darà la stessa risposta. Senza rumore. In ambito giudiziario, per esempio, è dimostrato che l’intelligenza artificiale è molto più performante dei giudici umani nel decidere se concedere la libertà su cauzione oppure no. Lo stesso in medicina. Ci sono ambiti della diagnostica in cui gli algoritmi sono già performanti quanto i medici migliori, ma entro pochi anni li supereranno. Quando Deep Blue ha sconfitto Kasparov a scacchi, Kasparov ha detto che la combinazione migliore sarebbe stata quella tra macchina ed essere umano, con l’essere umano a prendere la decisione finale. Si sbagliava. Ormai è molto chiaro: i computer non hanno alcun bisogno dell’umano».

Eppure restiamo affezionati alla discrezionalità, alla presenza in carne e ossa, rassicurante, del professionista, anche se ci sono discipline, si scopre leggendo il libro, che non solo soffrono della presenza del rumore: ne sono letteralmente sommerse. Le risorse umane, la psichiatria. Chiedo a Kahneman quanto i professionisti siano consapevoli di tutto questo.

«Alle persone piace esprimersi, usare la propria intuizione. Quando ci viene detto cosa pensare, ci sentiamo come se perdessimo la nostra integrità. Per esempio è molto chiaro che i giudici non amano le procedure utili a ridurre il rumore. Ma avere un sistema giudiziario rumoroso è una cosa terribile. Il prossimo mese parlerò a una platea di giudici in California e questo sarà uno dei punti su cui insisterò. Non farà loro piacere».

Lo porto per un attimo sul terreno ancora più rumoroso dell’attualità. In passato, Daniel Kahneman ha servito nelle forze armate israeliane e contribuito a ottimizzare il loro iter di reclutamento. Gli chiedo come consideri oggi la scelta americana di ritirare le ultime truppe dall’Afghanistan, considerato quel che è successo dopo.

«È facile vedere che è stata una decisione rumorosa», mi dice. «Le decisioni associate ad ampie incertezze lo sono sempre. Noi percepiamo il rumore dall’arbitrarietà che ha accompagnato la scelta. Ci rendiamo conto che scelte diverse sarebbero state altrettanto possibili, fatte da altri presidenti in altri momenti, in base alla medesima situazione. Ma il rumore non è colpa di Joe Biden. E nemmeno è corretto valutare la bontà della sua decisione in base alle conseguenze che ha portato. Occorre spostare il nostro giudizio, dalle conseguenze, al processo che ha prodotto la scelta. Vedere la Casa Bianca come una fabbrica di decisioni. La domanda più pertinente, allora, diventa un’altra: il processo produttivo che ha portato a questa specifica decisione è stato davvero il migliore possibile?».