E a provocarlo è stato uno dei principali investitori di Anthropic: Amazon.
La scorsa settimana, i ricercatori di Amazon erano impegnati a sottoporre a stress test Fable 5, una versione “sicura” del modello di AI Mythos sviluppato da Anthropic. L’azienda aveva più volte dichiarato che i modelli della classe Mythos possedevano capacità di hacking software superiori a quelle umane e troppo pericolose per essere rese disponibili al pubblico. Fable 5, lanciato il 9 giugno, era stato dotato – secondo Anthropic – di solide misure di protezione contro i rischi informatici.
I ricercatori di Amazon che stavano testando Fable hanno però scoperto un “jailbreak”, documentando un metodo che consentiva agli utenti di aggirare le protezioni di sicurezza e accedere a informazioni potenzialmente utilizzabili per un attacco informatico. Amazon ha immediatamente informato Anthropic. La situazione è però degenerata rapidamente quando l’amministratore delegato di Amazon, Andy Jassy, si è trovato casualmente in una telefonata già programmata con funzionari della Casa Bianca giovedì 11 giugno per discutere di un argomento non correlato, secondo due fonti vicine all’azienda.
Durante quella conversazione, Jassy ha menzionato la vulnerabilità scoperta dal suo team e i funzionari della Casa Bianca lo hanno incoraggiato a segnalare direttamente la questione al segretario al Tesoro Scott Bessent, hanno riferito le fonti.
Jassy ha parlato con Bessent nello stesso giorno. Ha informato il segretario del Tesoro del jailbreak di Fable, sottolineando però di essere preoccupato per le capacità informatiche di tutti i modelli di frontiera dell’AI, compresi quelli sviluppati da altri laboratori. Bessent stava guidando la risposta dell’amministrazione al modello Mythos di Anthropic, principalmente a causa della minaccia che eventuali cyberattacchi basati su Mythos potrebbero rappresentare per il sistema finanziario globale. Quella telefonata ha innescato una serie di eventi che nel giro di poco tempo sono diventati una notizia internazionale.
Entro la sera di venerdì, appena quattro giorni dopo il lancio di Fable, il segretario al Commercio degli Stati Uniti, Howard Lutnick, ha imposto ad Anthropic controlli alle esportazioni senza precedenti, costringendo il laboratorio a ritirare i suoi modelli più potenti. Si è trattato della prima volta in cui il governo statunitense è intervenuto esplicitamente per limitare il rilascio di un modello di AI di frontiera, provocando un’ondata di preoccupazione nel mondo tecnologico e politico a livello globale.
Da allora, esperti di cybersicurezza, studiosi delle politiche sull’intelligenza artificiale, funzionari statunitensi e governi stranieri hanno discusso animatamente le conseguenze della decisione, interrogandosi se l’approccio particolarmente duro dell’amministrazione Trump costituisca un precedente pericoloso oppure rappresenti una scelta prudente e responsabile.
Le premesse per questa decisione storica erano state poste mesi prima, quando l’amministrazione Trump si era scontrata con Anthropic su una questione separata riguardante un contratto con il Pentagono. Lo scontro aveva alimentato una crescente ostilità nei confronti della società di San Francisco all’interno della cerchia di funzionari che si occupano di politica tecnologica vicini a Trump. La situazione si era ulteriormente aggravata con l’aumento delle preoccupazioni delle agenzie per la sicurezza nazionale mentre Anthropic ampliava l’accesso a Mythos a un numero crescente di aziende.
Per Anthropic, che ha recentemente chiuso un round di finanziamento da 65 miliardi di dollari raggiungendo una valutazione di 965 miliardi di dollari e ha già presentato la documentazione necessaria per la quotazione in Borsa, i controlli alle esportazioni rappresentano una minaccia esistenziale in un momento in cui concorrenti come OpenAI, SpaceX e Google stanno competendo aggressivamente per dominare il mercato dell’intelligenza artificiale.
Molti dettagli dello scontro durato una settimana tra Anthropic e l’amministrazione Trump stanno ancora emergendo e i tentativi di risolvere la situazione restano in continua evoluzione. Fortune ha parlato con oltre una mezza dozzina di persone coinvolte, su vari fronti della vicenda, per ricostruire come si sia arrivati a questo punto e quali potrebbero essere le conseguenze future.
Un ultimatum e una raffica di telefonate concitate
Venerdì, dopo la telefonata tra Jassy e Bessent, l’amministrazione ha contattato Anthropic e il suo amministratore delegato Dario Amodei, chiedendo che il jailbreak venisse corretto oppure che i modelli fossero ritirati dal mercato. Secondo una fonte vicina ad Anthropic, l’avvertimento è arrivato senza alcuna comunicazione preventiva né indicazioni che il governo considerasse l’esportazione di Fable una minaccia per la sicurezza nazionale.
Nonostante l’assenza di preavviso, il Dipartimento del Commercio ha imposto una scadenza di appena 90 minuti, seguita da rigidi controlli all’esportazione che vietavano ai cittadini stranieri di utilizzare il software. Anthropic ha interpretato questa direttiva come un vero e proprio divieto dei modelli.
Il motivo è che il governo statunitense applica il principio del “deemed export” (“esportazione presunta”), secondo cui la distribuzione di un modello di intelligenza artificiale a qualsiasi cittadino straniero, anche se fisicamente presente negli Stati Uniti, equivale a esportare quel modello all’estero. Questo criterio si applicherebbe persino ai dipendenti non statunitensi della stessa Anthropic.
Inoltre, Anthropic non disponeva di un metodo realmente efficace per verificare la nazionalità dei propri utenti.
L’ultimatum ha innescato una frenetica serie di telefonate tra Anthropic e la Casa Bianca. Secondo una fonte vicina all’azienda, Anthropic ha sostenuto che il jailbreak individuato fosse relativamente semplice e che risultati analoghi potessero essere ottenuti facilmente utilizzando altri modelli già disponibili sul mercato. Tuttavia, questa argomentazione non è riuscita a convincere i funzionari dell’amministrazione, che hanno continuato a ritenere che l’aggiramento delle protezioni sbloccasse capacità informatiche potenzialmente pericolose.
Una lettera ufficiale firmata da Howard Lutnick, il cui dipartimento supervisiona i controlli alle esportazioni, è arrivata poco dopo le 17:00 (ora della costa orientale) di venerdì. Il documento informava l’azienda che avrebbe dovuto ottenere l’approvazione del governo prima di rendere disponibili i modelli Fable 5 e Mythos 5 a qualsiasi utente all’estero o a qualsiasi cittadino straniero nel mondo. Lutnick ha inoltre avvertito che l’eventuale mancato rispetto delle disposizioni avrebbe potuto comportare sanzioni civili e penali, secondo una copia della direttiva ottenuta da Bloomberg News.
Entro le 22:00 della stessa sera, Anthropic aveva già disattivato Fable 5 e Mythos 5.
“Non siamo d’accordo sul fatto che l’individuazione di un potenziale jailbreak circoscritto debba essere motivo sufficiente per ritirare un modello commerciale utilizzato da centinaia di milioni di persone”, ha scritto l’azienda nel proprio blog dopo aver rimosso i modelli. “Se questo standard venisse applicato a tutta l’industria, riteniamo che finirebbe sostanzialmente per bloccare il rilascio di nuovi modelli da parte di tutti i fornitori di AI di frontiera”.
Un portavoce di Anthropic ha aggiunto che entrambe le parti stanno lavorando rapidamente per risolvere la questione. I rappresentanti della Casa Bianca, invece, non hanno risposto alle numerose richieste di commento.
La vicenda è proseguita durante il fine settimana e nei giorni successivi. Entro domenica, alcuni membri senior del team tecnico di Anthropic si erano recati a Washington per incontrare di persona i funzionari della Casa Bianca, secondo la fonte vicina all’azienda.
“L’amministrazione riconosce il valore delle capacità tecniche di Anthropic e ritiene che questa questione, pur essendo seria, possa essere risolta facilmente”, ha scritto nel weekend su X David Sacks, venture capitalist che ricopre un ruolo di consulenza nell’amministrazione Trump. “La palla è nel campo di Anthropic.”
Tuttavia, secondo quanto appreso da Fortune, entro martedì i colloqui si erano conclusi senza alcuna modifica ai controlli sulle esportazioni e senza una chiara definizione dei passi successivi. Le due parti sono arrivate a un punto morto.
Le critiche dell’industria
Mentre il futuro immediato di Fable resta incerto, numerosi esperti di cybersicurezza si sono schierati a difesa di Anthropic. Secondo questi osservatori, un sistema di autorizzazione governativa per i modelli di intelligenza artificiale rischierebbe di rendere meno competitive le aziende statunitensi, offrendo ai rivali geopolitici – in particolare alla Cina – l’opportunità di colmare il divario.
“Qualsiasi cosa rallenti l’evoluzione e lo sviluppo della tecnologia finirà semplicemente per lasciare indietro gli Stati Uniti”, ha dichiarato a Fortune Danny Jenkins, amministratore delegato della società di cybersicurezza ThreatLocker. “I criminali non si preoccupano se qualcosa può essere esportato dagli Stati Uniti oppure no.”
Durante una dimostrazione tenutasi questa settimana, Jenkins ha raccontato di aver utilizzato il modello Claude di Anthropic – considerato meno potente di Fable o Mythos – per “trasformare completamente una macchina in un ransomware”, con il modello stesso che alla fine ha riconosciuto di aver creato un classico software di estorsione informatica.
Secondo Jenkins, però, le vulnerabilità verranno comunque scoperte prima o poi, sia da esseri umani sia da modelli di IA. L’intelligenza artificiale, semplicemente, accelera il processo. Per questo motivo, ha sostenuto che il governo dovrebbe concentrarsi maggiormente sul rafforzamento delle difese informatiche e sulla creazione di ambienti “zero trust”, invece di tentare di limitare l’esistenza stessa dei modelli.
Anche diversi esperti legali hanno espresso dubbi sulla logica dei controlli alle esportazioni. Charlie Bullock, ricercatore senior del team U.S. Law and Policy di LawAI, ha dichiarato a Fortune che la lettera di Lutnick si basa su strumenti normativi che non erano mai stati concepiti per sistemi di intelligenza artificiale accessibili pubblicamente, soprattutto quando gli utenti interagiscono con il modello esclusivamente tramite API, ossia interfacce software che consentono la comunicazione tra programmi differenti.
Questa distinzione solleva interrogativi sulla possibilità che il governo abbia esteso oltre misura i propri poteri previsti dalla legge e sulla capacità della misura di superare un eventuale esame alla luce del Primo Emendamento della Costituzione statunitense, considerando che precedenti sentenze hanno riconosciuto il codice informatico pubblicato come una forma di espressione tutelata dalla libertà di parola.
“Credo che la conclusione sia che la lettera sui controlli alle esportazioni poggi su basi giuridiche molto fragili”, ha affermato Bullock.
Da quando ha segnalato per la prima volta la questione ai funzionari della Casa Bianca, Amazon ha fatto un passo indietro nelle trattative tra Anthropic e il governo statunitense. Amazon è uno dei maggiori investitori di Anthropic e ha destinato alla startup almeno 13 miliardi di dollari attraverso una serie di operazioni avviate nel 2023.
Un ingegnere di Amazon ha raccontato che all’interno dell’azienda alcuni dipendenti scherzavano sul fatto che la società avesse “fatto la spia” contro Anthropic, mentre altri si rammaricavano di non aver mai avuto l’opportunità di utilizzare Fable 5.
In una dichiarazione ufficiale, un portavoce di Amazon ha affermato che, in qualità di uno dei più grandi fornitori mondiali di servizi cloud, “non è insolito che i governi chiedano il nostro parere su potenziali rischi per la sicurezza. Quando ciò accade, non divulghiamo i dettagli di queste discussioni.”
Sebbene non sia chiaro se Andy Jassy si aspettasse che le sue osservazioni ai funzionari della Casa Bianca portassero all’introduzione dei controlli alle esportazioni, è quasi certo che fosse consapevole delle tensioni esistenti tra Anthropic e l’amministrazione Trump.
Ripercussioni internazionali
Già nell’ottobre scorso, David Sacks, ex responsabile dell’intelligenza artificiale e delle criptovalute nell’orbita trumpiana, aveva attaccato duramente Anthropic per aver sostenuto una regolamentazione dell’IA sia a livello federale sia statale, accusando l’azienda di portare avanti una “sofisticata strategia di cattura regolatoria basata sull’allarmismo”. In precedenza aveva inoltre definito la società “woke” e composta da “esponenti della sinistra”.
Successivamente è esploso un confronto molto pubblicizzato tra il laboratorio e l’amministrazione Trump riguardo all’utilizzo dei modelli Anthropic da parte del Dipartimento della Difesa. Il Pentagono voleva che Anthropic accettasse un nuovo contratto che autorizzasse l’uso dei suoi modelli per “qualsiasi scopo legittimo”, mentre l’azienda chiedeva specifiche clausole che impedissero l’impiego della tecnologia per il controllo di armi autonome o per programmi di sorveglianza di massa sul territorio nazionale.
Quando le parti non sono riuscite a trovare un accordo, l’amministrazione Trump ha ordinato a tutte le agenzie federali di interrompere l’utilizzo dei modelli di Anthropic e ha classificato l’azienda come “rischio per la catena di approvvigionamento”, una designazione mai applicata prima a una società statunitense. Tale classificazione ha impedito l’utilizzo dei modelli Anthropic da parte delle forze armate statunitensi e degli appaltatori della difesa impegnati in contratti con il Pentagono. Anthropic ha contestato la decisione in tribunale.
Quando la società ha lanciato Mythos ad aprile, il rapporto con il governo sembrava però avviarsi verso una normalizzazione. Poiché il modello era in grado di individuare vulnerabilità informatiche sconosciute – persino all’interno di progetti open source analizzati per decenni da ricercatori umani – e di concatenarle autonomamente per realizzare exploit completi, Anthropic aveva coordinato il rilascio con le agenzie statunitensi per la sicurezza nazionale.
Attraverso il programma Glasswing, il modello era stato inizialmente messo a disposizione di un gruppo selezionato di dodici partner, tutti appartenenti ai settori tecnologico o finanziario statunitense e coinvolti nella gestione di infrastrutture critiche. L’obiettivo era consentire a queste aziende di individuare e correggere vulnerabilità prima che venissero sfruttate dagli hacker, che sempre più spesso utilizzano l’intelligenza artificiale per automatizzare gli attacchi informatici.
Tra i primi partecipanti figuravano Amazon e Microsoft. Successivamente, in consultazione con le autorità di sicurezza americane, il programma è stato ampliato includendo circa quaranta ulteriori aziende software statunitensi.
Tuttavia, il debutto di Mythos ha anche generato preoccupazione tra governi e imprese straniere, interessati ad accedere alla tecnologia per proteggere i propri sistemi informatici. Alcune settimane fa Anthropic aveva presentato al governo statunitense un elenco di 111 organizzazioni considerate affidabili, molte delle quali con sede all’estero, che avrebbero ottenuto l’accesso a Mythos. L’amministrazione aveva approvato la lista.
Successivamente, però, il laboratorio ha comunicato ai funzionari di aver ampliato l’elenco con circa 50 organizzazioni aggiuntive, secondo quanto riportato dal Washington Post.
Tra queste nuove realtà figurava, secondo il quotidiano, una società sudcoreana di telecomunicazioni che l’amministrazione sospettava avesse legami con la Cina. Una fonte vicina ad Anthropic ha riferito che alcune settimane fa l’azienda aveva effettivamente ricevuto dal governo statunitense la richiesta di interrompere l’accesso a Mythos per una grande società globale delle telecomunicazioni e che tale richiesta era stata soddisfatta rapidamente.
Altre ricostruzioni giornalistiche hanno indicato come possibile soggetto coinvolto SK Telecom, che ha però diffuso una nota ufficiale affermando che “non esiste alcun fondamento per considerare la nostra azienda collegata alla Cina.”
Secondo il Washington Post, la scoperta dell’espansione del programma Glasswing e la presenza dell’operatore sudcoreano tra i beneficiari hanno compromesso la fiducia tra l’apparato della sicurezza nazionale statunitense e Anthropic. Il quotidiano sostiene inoltre che, ancora prima del lancio di Fable la scorsa settimana, la National Security Agency (NSA) stesse già facendo pressione sull’amministrazione affinché introducesse controlli straordinari alle esportazioni.
È possibile ricucire lo strappo?
Secondo diverse ricostruzioni giornalistiche, Dario Amodei avrebbe trascorso gran parte dello scorso fine settimana al telefono nel tentativo di convincere l’amministrazione a revocare la propria decisione, mentre Anthropic preparava l’invio a Washington di una delegazione composta dai suoi principali esperti tecnici.
Le fonti sostengono che i funzionari governativi stessero chiedendo ad Anthropic di sviluppare protezioni per Fable impossibili da aggirare. Tuttavia, numerosi specialisti di sicurezza dell’intelligenza artificiale fanno notare che tutti i modelli di IA oggi disponibili sono vulnerabili, in misura diversa, a tecniche di jailbreaking e che al momento non esiste una soluzione tecnica definitiva per eliminare completamente questo tipo di rischio.
La frattura tra Anthropic e la Casa Bianca è emersa pubblicamente mercoledì durante il G7 di Évian-les-Bains, in Francia, dove Amodei e il presidente Trump si sono ritrovati nella stessa sala in occasione di una tavola rotonda che ha riunito oltre due dozzine tra leader politici e imprenditoriali.
Seduto accanto al presidente statunitense c’era Sam Altman, storico rivale di Amodei e amministratore delegato di OpenAI, che fino a quel momento aveva evitato qualsiasi commento pubblico sullo scontro tra Washington e Anthropic.
Dall’altra parte del grande tavolo ovale, Amodei sedeva invece accanto al presidente francese Emmanuel Macron. Rivolgendosi ai presenti, il fondatore di Anthropic avrebbe lanciato un messaggio interpretato da molti come un riferimento diretto alla vicenda in corso, invitando governi e aziende a “resistere alla tentazione di frammentare” gli approcci normativi sull’intelligenza artificiale.
Verso un accordo?
Giovedì, Politico ha riferito che Anthropic e il governo statunitense stavano lavorando a un accordo che consentirebbe di ripristinare l’accesso a Fable e Mythos.
L’intesa prevederebbe anche la creazione congiunta di un quadro di valutazione per stabilire quando eventuali futuri jailbreak dei sistemi di sicurezza di un modello debbano essere considerati una minaccia concreta e tale da richiedere un intervento delle autorità.
Nel frattempo, a Seul, il direttore internazionale di Anthropic, Chris Cauri, ha dichiarato durante una conferenza stampa di essere “molto fiducioso che nei prossimi giorni i modelli torneranno a essere disponibili”.
Nonostante questi segnali di apertura, alla serata di giovedì – ora della costa pacifica degli Stati Uniti – le modalità concrete con cui sarebbe stato raggiunto un compromesso restavano ancora poco chiare.
Dopo una settimana di tensioni, pressioni politiche e accuse reciproche, il confronto tra Anthropic e l’amministrazione Trump sembrava quindi avviarsi verso una possibile soluzione negoziata, ma senza che fosse ancora definito un percorso preciso per il ritorno sul mercato di Fable 5 e Mythos 5.
L’articolo originale è su Fortune.com
FOTO: Anna Moneymaker/Getty Images
