Se non fosse stato per l’intelligenza artificiale, l’operazione Usa-Israele che ha portato alla morte di Ali Khamenei probabilmente non sarebbe stata possibile. Ma questo non vuol dire che l’AI di guerra sia una novità. “Lo spartiacque è stato il conflitto in Ucraina”, spiega Mariarosaria Taddeo, docente di Digital Ethics and Defence Technologies dell’Università di Oxford. “La cosa che dovrebbe preoccuparci è che la sorveglianza di massa, la stessa di cui si parlava con lo scandalo Nsa nel 2013, ora è molto più reale”.
L’operazione in Iran grazie all’AI
I servizi segreti israeliani monitoravano da tempo – da anni, ha ricostruito il Financial Times – gli spostamenti delle guardie del corpo e dei funzionari iraniani. I dati raccolti sono stati accumulati, ricostruendo le routine del leader supremo iraniano e delle persone che lo circondavano anche grazie alle capacità di analisi ed elaborazione dell’AI utilizzata da Mossad e Cia.
Il dettaglio che ha colpito di più è probabilmente l’hackeraggio delle telecamere che monitorano il traffico della capitale iraniana, ma è stata la capacità di analizzare le immagini, le intercettazioni e le fonti di intelligence raccolte (la capacità, in sostanza, di “conoscere Teheran come casa nostra”, ha detto una fonte al Ft) a fornire a Usa e Israele le informazioni necessarie per procedere.
Il Wall Street Journal ha rivelato che nel conflitto è stata utilizzata l’AI della Anthropic guidata da Dario Amodei, dopo che lo stesso è entrato in rotta con il Dipartimento per la guerra Usa per gli utilizzi ‘autonomi’ del suo modello (usato anche per l’operazione Maduro) con Donald Trump che ha ordinato alle agenzie federali di smettere di usarlo. Ma per escluderlo del tutto dai processi del Pentagono potrebbero volerci mesi.
Parlare di Claude significa riassumere molto delle potenzialità dell’AI sul campo di battaglia, considerando che Bloomberg ha rivelato che a gennaio la stessa Anthropic ha presentato una proposta da 100 mld di dollari al Pentagono per lo sviluppo di una tecnologia per il comando vocale e il coordinamento di sciami di droni.
“In Iran abbiamo visto un uso specifico dell’intelligenza artificiale che non è particolarmente nuovo perché si pone in continuità con l’uso che ne ha fatto Israele in Palestina”, spiega Taddeo facendo riferimento al sistema Lavender, database utilizzato da Israele per identificare obiettivi di Hamas da colpire.
A Teheran “l’AI ha aiutato a definire il momento più efficace per l’attacco, e questo è l’aspetto fondamentale. Senza intelligenza artificiale questa operazione non si sarebbe potuta fare, per la mole di dati che è stata raccolta e analizzata, la velocità con la quale questo ‘pattern of life’ è stato ricostruito”.
L’allarme sulla sorveglianza di massa
Nell’uso che è stato fatto Taddeo vede un tema che finora è stato considerato poco: la sorveglianza di massa. “Attenzione – sottolinea – perché ora con l’AI gli attori nazionali hanno uno strumento che gli permette di analizzare questa grande mole di dati. Ce ne siamo un po’ dimenticati, dopo lo scandalo della NSA e le rivelazioni di Edward Snowden”. Era il 2013 quando l’ex contractor dell’intelligence Usa rivelava i programmi di sorveglianza globale della National Security Agency (NSA). “La differenza tra adesso e 14 anni fa è che allora non avevamo le capacità di intelligenza artificiale che abbiamo adesso. Abbiamo più dati e più strumenti per analizzarle”.
Questa capacità di penetrare le strutture digitali di altri paesi, di acquisire informazioni così capillari, “dovrebbe farci riflettere su quanto è sicura la nostra supply chain digitale e sul fatto che tanto più si estende la digitalizzazione delle nostre infrastrutture, dei nostri servizi, tanto più siamo esposti ad attacchi, tanto più siamo esposti al monitoraggio. Il caso Snowden fu interessante per tante ragioni. All’epoca dello scandalo una delle difese di Keith B. Alexander, che era il capo dell’Nsa, fu: ‘Noi abbiamo i dati, ma non abbiamo la tecnologia per analizzarli’. Ecco, oggi la tecnologia esiste. Se all’epoca eravamo scandalizzati, adesso dovremmo essere spaventati”.
OpenAI modifica l’accordo con il Pentagono: “Niente sorveglianza di massa”
AI in guerra, un vuoto normativo totale
Una trasformazione tecnologica epocale che avviene in un vuoto normativo totale: “Non esiste una regolamentazione al mondo che riguardi l’AI nella Difesa, abbiamo principi di diritto internazionale ma la loro applicazione non è facile, e richiede un lavoro giuridico dettagliato”, spiega la professoressa. “Questo vuoto inizia ad erodere anche i diritti dei cittadini e delle democrazie liberali. Per cercare di chiuderlo, bisognerebbe almeno discuterne, ma spesso il tema etico è marginale. Come nel caso della strategia sull’AI del ministero della Difesa italiano”.
Al mondo, ricorda, ci sono solo due principali regolamentazioni che parlano di intelligenza artificiale: l’AI Act europeo e quello della Repubblica di Corea. “Entrambi non si occupano di utilizzo delle AI per la difesa. Questo succede perché la difesa è una prerogativa nazionale, e servono leggi apposite”. Ma dove non ci sono le regole c’è la prassi: di fatto quella all’AI in guerra è diventata una corsa tecnologica al pari di quella civile. Gli Stati che la stanno usando stanno in qualche modo mettendo a punto quale sia la quota di errori che queste tecnologie autonome possono provocare per considerarne l’uso ‘accettabile’?
La prassi della guerra si mangia il diritto internazionale
Risposta breve: no. “La prassi della guerra si sta mangiando il diritto internazionale. Al momento non rilevo l’intenzione di settarsi su nessuna soglia. Si spinge sul vantaggio competitivo che questa tecnologia dà senza creare limiti da rispettare. Limiti in cui questi attori sarebbero imbrigliati, e i cittadini salvaguardati”.
Secondo la professoressa, advisor del ministero della Difesa britannico su ‘Ai ethics’, tutte le democrazie occidentali stanno adottando l’intelligenza artificiale nella sicurezza ignorando questo vuoto regolamentativo. “Tutte si stanno rendendo conniventi di questa erosione sistemica, drammatica, del diritto umanitario internazionale. E questa erosione avviene dall’interno, in maniera tacita, un po’ alla volta. E allora questa pressione dovrebbe iniziare a preoccuparci profondamente: diritto umanitario internazionale e democrazia sono nati insieme: quello che inizia a far male a uno prima o poi inizia a far male all’altro”.
Anthropic e l’irrilevanza delle virtù morali delle Big Tech
È inutile, dice Taddeo, affidarsi alle aziende. “Prendiamo la questione Anthropic-Pentagono. Ci siamo concentrati sulle presunte virtù morali del Ceo, Dario Amodei, e invece non ci preoccupiamo del fatto che questi limiti all’intelligenza artificiale non li deve decidere il capo di un’azienda, che sia più o meno illuminato, e neanche il capo di un governo: li decide il diritto internazionale”.
