Cinquantamila.it La storia raccontata da Giorgio Dell'Arti

L’intelligenza artificiale è arrivata. I computer oggi possono registrare i dati sull’ambiente, dirimere problemi intricati, esprimere giudizi sottili e imparare dall’esperienza. Non ragionano nel modo in cui ragionano gli essere umani, ma possono replicare molte delle nostre più preziose doti intellettive. Impressionati da queste splendide nuove macchine, gli essere umani si stanno affrettando a delegare loro qualsiasi compito complesso prima appannaggio delle persone. Ma la crescente fiducia nell’automazione potrebbe avere un caro prezzo. L’inquietante realtà dei fatti suggerisce che l’intelligenza umana sta appassendo proporzionalmente alla dipendenza da quella artificiale. Invece di elevare l’essere umano, sembra che i software intelligenti lo stiano rimbambendo.
È stato un lento processo. La prima ondata di automazione è stata lanciata negli Stati Uniti dopo la Seconda Guerra Mondiale, quando nel settore manifatturiero hanno iniziato ad installare apparecchiature controllate elettronicamente. Le nuove macchine hanno reso le industrie più efficienti e le attività più remunerative. Alleggerendo gli operai dagli incarichi di routine, hanno fatto qualcosa di più che spingere la produttività. Hanno elevato gli operai, assegnando loro lavori più interessanti e abilità di più alto livello. In questo, la nuova tecnologia è stata nobilitante. Successivamente, negli anni Cinquanta, James Bright, un professore della Harvard Business School, è andato sul campo per studiare i reali effetti dell’automazione in una varietà di settori, dall’industria pesante alla raffinazione petrolifera fino alla panificazione. Le condizioni degli stabilimenti, ha scoperto, sono decisamente migliorate. Nella maggior parte dei casi, i nuovi macchinari lasciavano ai lavoratori incarichi meno usuranti, ma più monotoni. Nella realtà dei fatti, una fresatrice automatica non ha trasformato un metalmeccanico in un artigiano più creativo, ma in un soggetto che spinge pulsanti. Pertanto, Bright ha concluso che l’effetto preminente dell’automazione fosse dequalificare i lavoratori piuttosto che specializzarli ulteriormente. «La lezione dovrebbe essere sempre più ovvia», ha scritto nel 1966, «un equipaggiamento molto complesso» non richiede «lavoratori specializzati. La specializzazione può essere incorporata nel macchinario».
Gli essere umani stanno imparando quella lezione ancora oggi, ma su una scala più ampia. Poiché i software ora hanno capacità di analisi e di assunzione di decisioni, l’automazione è balzata al di fuori degli stabilimenti ed è entrata nel mondo dei colletti bianchi. I computer stanno acquisendo il genere di conoscenza che il lavoro ha a lungo considerato prerogativa dei professionisti particolarmente qualificati: i piloti fanno affidamento sui computer per far volare gli aerei e i medici li consultano per diagnosticare le malattie. La nuova ondata di automazione sta colpendo praticamente chiunque.
Dall’invenzione avvenuta un secolo fa, il pilota automatico ha agevolato l’efficienza e la sicurezza del servizio aereo. Questa tendenza positiva è continuata con l’introduzione dei jet con i sistemi di comando di volo elettronici nel 1970. Ma ora, gli esperti di aviazione sono preoccupati che si stia andando troppo oltre. Abbiamo trasferito molte mansioni della cabina di pilotaggio dalle risorse umane ai computer, tanto che i piloti stanno perdendo il loro smalto e stanno iniziando a mostrare ciò che il ricercatore inglese del settore dell’aviazione, Mathew Ebbatson chiama «dissolvenza della competenza». Nel 2007, lavorando alla tesi di dottorato presso la scuola di Ingegneria della Cranfield University, Ebbatson ha condotto un esperimento con un gruppo di piloti di linea. Ha fatto compiere loro una manovra complessa in un simulatore di volo. Dovevano condurre un Boeing con un motore avariato e farlo atterrare nonostante le violente precipitazioni. Ebbatson ha misurato il principale indicatore della loro abilità, ossia la precisione con cui hanno mantenuto la velocità dell’aereo. Quando ha paragonato le interpretazioni del simulatore con le testimonianze reali di volo, ha trovato una stretta relazione tra l’abilità del pilota al comando e il tempo che ha trascorso di recente conducendo manualmente un aereo.
«Le abilità di volo decadono piuttosto rapidamente ai limiti di una performance tollerabile senza un esercizio relativamente frequente», ha concluso Ebbatson. Ma i computer ora gestiscono gran parte delle operazioni di volo tra il decollo e l’atterraggio, così «l’allenamento frequente» è esattamente ciò che i piloti stanno perdendo. Anche un leggero calo nella capacità di condurre manualmente un aereo può causare una tragedia. Un pilota che ha perso la mano può commettere più probabilmente un errore in caso di emergenza. Infatti, gli errori dei piloti derivanti dalla crescente automazione sono stati implicati in diversi recenti disastri aerei, tra cui il caso del volo 447 dell’Air France che è precipitato nell’Oceano Atlantico e lo schianto in fase di atterraggio del volo 214 della Asian a San Francisco nel 2013.
Alla fine dello scorso anno, un rapporto di un’unità operativa della Federal Aviation Administration sulla tecnologia della cabina di pilotaggio ha documentato un crescente collegamento tra gli incidenti e l’eccessivo affidamento all’automazione. I piloti si sono abituati a «guardare le cose accadere e reagire, invece di prevenire». La FAA sta quindi sollecitando le linee aeree a far condurre gli aerei manualmente ai piloti in maggiori occasioni. Le applicazioni che offrono molti suggerimenti e consigli sono spesso da condannare: programmi più semplici rendono più difficile che ci si sforzi a pensare, agire e imparare. Dieci anni fa, l’Università di Utrecht aveva un gruppo che portava avanti complicate analisi e progettazioni utilizzando software rudimentali che non fornivano né assistenza. In ragione di questa esperienza, hanno verificato che le persone che utilizzano software semplici sviluppano strategie migliori, fanno meno errori e sviluppano una più profonda propensione al lavoro. Al contrario, i soggetti che hanno usato il software più avanzato hanno spesso traccheggiato davanti a una problematica complessa. Da ciò si evince che i software che presumibilmente dovrebbero aiutare in realtà hanno mandato in corto circuito il pensiero e la capacità di apprendimento.
In altre parole, le capacità umane si affinano solo attraverso la pratica, quando è impiegata regolarmente per superare diversi tipi di sfide. Al contrario, l’obiettivo dei software moderni è agevolare il nostro percorso attraverso queste sfide. Il lavoro pesante e complesso è esattamente ciò che i programmatori cercano di automatizzare. Ma, dopotutto, è proprio in questo che tendono a trovarsi i guadagni immediati legati all’efficienza. In altre parole, c’è contrapposizione tra gli interessi delle persone che fanno automazione e quelli delle persone che fanno il proprio lavoro.
Ciononostante, lo scopo dell’automazione continua ad ampliarsi. Con la diffusione delle cartelle cliniche elettroniche, i medici si affidano sempre di più ai software per essere guidati tra la mole di esami dei pazienti. In uno studio condotto tra il 2007 e il 2008 dall’Università di Albany, il professor Timothy Hoff ha intervistato più di 75 medici di base che avevano informatizzato il loro sistema. Sentivano che il software stava impoverendo la loro relazione con i pazienti, riducendo la loro «capacità di prendere decisioni consapevoli sulle diagnosi e sulle terapie». La professoressa Beth Lown della Harvard Medical School, in un articolo scientifico del 2002 scritto dal suo studente Dayron Rodriquez, riferiva che quando i medici si fanno «guidare dallo schermo», seguendo un suggerimento del computer piuttosto che «il filo narrativo del paziente», restringono la loro riflessione. Nei casi peggiori, potrebbero perdersi degli importanti segnali diagnostici. Il rischio non è solo teorico. In un recente articolo pubblicato sulla rivista Diagnosis tre ricercatori di medicina hanno esaminato la diagnosi errata fatta su Thomas Eric Duncan, la prima vittima di Ebola degli Usa, emessa dal Texas Health Presbyterian Hospital di Dallas. I ricercatori sostengono che i moduli elettronici utilizzati dai medici dell’ospedale per registrare le informazioni sui pazienti probabilmente abbiano agevolato la creazione di una sorta di visione ristretta. «Questi strumenti che costringono molto», hanno scritto i ricercatori, «sono sviluppati per archiviare i dati, ma a spese di sacrificare la loro finalità di effettuare un appropriato triage e una diagnosi corretta, portando i medici a prendere degli abbagli».
Tuttavia, gli esseri umani non devono rassegnarsi a questa situazione. L’automazione non ha rimosso le sfide dal lavoro, né ha diminuito le abilità. Lo smarrimento deriva da ciò che l’ergonomia e altre discipline chiamano «automazione incentrata sulla tecnologia», una filosofia di progettazione che sembra dominare il pensiero dei programmatori e degli ingegneri. Quando i progettisti dei sistemi cominciano a programmare, per prima cosa tengono conto delle proprietà dei computer, nell’ottica di delegare più lavoro possibile al software. Agli operatori umani viene assegnato ciò che è rimasto escluso, che generalmente consiste in incarichi relativamente passivi, come l’inserimento dei dati, l’utilizzo di modelli predisposti e il monitoraggio dei display. Questa filosofia intrappola le persone in un circolo vizioso di dequalificazione. Essere isolati dal duro lavoro intorpidisce le abilità e incrementa le possibilità di commettere errori. Quando questi errori si verificano, i progettisti reagiscono cercando di restringere ulteriormente le responsabilità delle persone, iniziando un nuovo ciclo di dequalificazione. Dal momento che la tecnica predominate «enfatizza le necessità della tecnologia su quelle degli esseri umani», riduce le risorse umane a «un ruolo di supporto, per il quale siamo inadatti», scrive lo scienziato cognitivo e ricercatore di progettazione dell’Università della California Donald Norman.
Ma esiste un’alternativa. Nell’automazione incentrata sull’uomo, le doti delle persone hanno la precedenza. I sistemi sono progettati per mantenere le risorse umane in quello che gli ingegneri chiamano «il circuito della decisione», il processo continuo di azione, feedback ed emissione di giudizio. Questo mantiene i lavoratori attenti e impegnati e promuove il genere di sfida che rafforza le capacità. In questo modello, il software gioca un ruolo essenziale, ma secondario. Si occupa delle funzioni di routine, che l’operatore umano già padroneggia, effettua segnalazioni quando sorge una situazione inaspettata, fornisce nuove informazioni che espandono la prospettiva dell’operatore e bilancia i pregiudizi che spesso distorcono il pensiero umano. La tecnologia diventa un partner del professionista, e non suo rimpiazzo. L’automazione incentrata sull’uomo non limita il progresso. Piuttosto, guida il progresso su un percorso più umanistico, fornendo un antidoto alla visione misantropa sin troppo comune che venera i computer e denigra l’essere umano. Uno degli esempi più esaltanti di questo approccio è quello dell’automazione adattiva. Impiega sensori d’avanguardia e algoritmi interpretativi per monitorare gli stati fisici e mentali delle persone, utilizzando poi le informazioni derivate per suddividere le responsabilità tra gli uomini e i computer. Quando il sistema percepisce che un operatore è alle prese con una procedura difficile, alloca più incarichi al computer per liberare la risorsa umana dalle distrazioni. Ma quando avverte l’interesse del soggetto sta calando, aumenta la sua mole di lavoro per catturarne l’attenzione e stimolarne le abilità.
Nelle cabine di pilotaggio, negli uffici o negli ambulatori, le risorse umane specializzate rimangono indispensabili. Il loro discernimento, la loro creatività e le loro intuizioni migliorano attraverso il duro lavoro, l’esperienza vissuta e la capacità di giudizio del mondo reale, che non possono essere replicate dagli algoritmi o dai robot. Se lasciamo che le competenze svaniscano, basandoci eccessivamente sull’automazione, renderemo gli essere umani meno abili, meno flessibili e maggiormente subordinati alle nostre macchine. Creando così un mondo più adatto ai robot che a noi.
(© 2014-Dow Jones & co. Inc. All Rights Reserved)
Nicholas Carr, MilanoFinanza 29/11/2014

NICHOLAS CARR