Avvenire, 10 marzo 2019
2030, l’anno della «guerra degli automi»
È un grido d’allarme, che si solleva ripetutamente dal 2014. Con un obiettivo preciso: bandire i sistemi d’arma autonomi letali, i famigerati robot- killer che cominciano a far breccia nei programmi militari del futuro. La rivoluzione sembra inarrestabile. La velocità devastante con cui si sviluppano le tecnologie informatiche e l’elettronica, applicandole anche al settore militare, comincia a sollevare interrogativi etici. Minaccia di travolgere schemi tattici e di infrangere barriere morali. Capace delle peggiori atrocità, l’uomo è un essere dotato di empatia e di pietà. Tanto più davanti a un “nemico indifeso”, quello che Michael Walzer chiama ««naked soldier» (il soldato nudo) nel suo capolavoro Just and Unjust War, Guerra giusta e ingiusta. Il combattimento bellico è fondato amaramente sulla violenza, ma anche sulla proporzionalità. Implica sofferenza, connaturata all’essere umano. L’automatizzazione rischia di alterare la «dialettica fra gli uomini e la violenza, senza che qualcuno patisca per il dolore inferto». È bene tenere a mente la lezione di Paul Scharre, soprattutto ora che le armi iperveloci, i laser e i robot semi-autonomi cominciano a conquistare gli arsenali militari. Fra metà novembre e metà dicembre scorso, l’esercito britannico ha sperimentato nella piana di Salisbury il combattimento sinergico di 70 nuovi sistemi robotici aerei e terrestri. I russi hanno già in linea l’Uran-6, un robot da 6 tonnellate, ben armato e testato in Siria. Anche gli israeliani corrono. E gli olandesi non sono da meno.
Il loro esercito ha creato a fine 2017 un’unità di robot autonomi. Sperano diventi autogestita o teleoperata a seconda delle esigenze, con una potenza di fuoco assimilabile a quella di un battaglione di fanteria di 600 uomini. Gli americani primeggiano. Stanno riorientando i dispositivi militari al confronto ineluttabile con la Cina e la Russia. La Darpa, l’agenzia di ricerca militare del Pentagono, è all’avanguardia in materia di robotica e di intelligenza artificiale. Guarda a queste discipline come fossero dei “game changers”, dei momenti di svolta, proprio come fa con i computer quantistici, l’iper velocità e il soldato aumentato di potenzialità. Gran parte dei suoi fondi sta andando verso la gestione sinergica degli sciami di droni e microdroni. Un modo per poter sferrare attacchi saturanti di robot e proiettili iperveloci e abbattere le barriere antiaccesso di Cina e Russia, senza perdite di propri uomini.
Tutti e tre i Grandi guardano con interesse futuristico e crescenti investimenti agli sviluppi dell’intelligenza artificiale. Ci sono armi potenzialmente vantaggiose in ballo. Purtroppo, nella storia della guerra, qualsiasi innovazione tecnologica che ha consegnato superiorità tattica e strategica a una nazione è stata perseguita e integrata in battaglia. Oggi tutto sembra accelerare. Intorno al 2030, i sistemi robotici avranno un livello di “autonomia 5”, ovvero saranno capaci di spostarsi da soli, in ogni condizione, e di reagire a minacce e incidenti come farebbe un soldato-umano. Si comporteranno come un animale addestrato. Combatteranno? Sì. Almeno il 10% dei robot presenti sul campo farà la guerra e ucciderà, il resto fungerà da sensore e un buon 10-30% da “servitore”. Non appena il costo di sviluppo e di acquisizione scenderà, i robot rivoluzioneranno il campo di battaglia, perché potranno esser impiegati in gran numero e in maniera sinergica. Trasferiranno ancor più sui civili e sul nemico le perdite umane. Bob Sadowski preconizza che intorno al 20302040 vedremo vere e proprie formazioni di robot e sciami di droni in prima linea.
Se la tattica andrà ripensata, l’etica bellica potrebbe essere sconvolta.
Dotare un’intelligenza artificiale di vari gradi di autonomia implica riconoscerle autonomia morale. Ma non significa forse deresponsabilizzare l’uomo? Se i militari che lanciassero in battaglia armi completamente autonome non si sentissero più responsabili delle morti provocate, rischierebbero di diventare «negligenti e di impiegarle senza raziocinio». Come si comporterebbero in uno scenario urbano, in missioni di controinsurrezione e stabilizzazione, in cui è determinante discriminare al millimetro fra combattenti e non combattenti? È un interrogativo dirimente, ora che si affacciano all’orizzonte veri e propri robot-killer.