Come un ordine di Trump ha oscurato i modelli IA più potenti del mondo

"L'effetto netto di quest'ordine è che dobbiamo disabilitare bruscamente Fable 5 e Mythos 5 per tutti i nostri clienti per garantire la conformità", ha dichiarato la società sul suo blog ufficiale e su X . L'accesso agli altri suoi modelli di IA, incluso il popolarissimo chatbot Claude, non è stato compromesso .

Cosa ha scatenato l'azione del governo

Le preoccupazioni di sicurezza nazionale del governo ruotano attorno a quelle che i funzionari hanno descritto come vulnerabilità di jailbreak e al potenziale dei modelli di condurre ricerche autonome in materia di cybersicurezza . Secondo quanto riportato, il governo avrebbe fornito solo prove verbali di un potenziale jailbreak ristretto e non universale, essenzialmente un metodo per chiedere al modello di leggere una specifica base di codice e correggere i difetti del software .

I precedenti avvertimenti di sicurezza di Anthropic sui propri modelli potrebbero aver inavvertitamente contribuito ad allarmare il governo. La società aveva già riconosciuto che Mythos 5, il suo modello più capace e destinato a un uso limitato, presentava rischi informatici significativi, portando la Casa Bianca a predisporre protezioni speciali per le agenzie federali a cui era stato concesso un accesso privilegiato . Pochi giorni prima del blocco, Fable 5 era stato rilasciato pubblicamente come versione più sicura, addestrata per rifiutare richieste dannose, ma la rapida mossa del governo suggerisce che non sia stato convinto a sufficienza delle sue salvaguardie .

È la prima volta che il governo americano classifica uno specifico modello linguistico di grandi dimensioni come un problema di sicurezza nazionale e utilizza le regole delle esportazioni "deemed" per limitarne l'accesso persino ai cittadini stranieri che lavorano sul suolo statunitense . Il Segretario al Commercio Howard Lutnick ha comunicato personalmente i controlli all'esportazione all'amministratore delegato di Anthropic, Dario Amodei, tramite una lettera .

La portata senza precedenti che include i dipendenti di Anthropic

È proprio la portata della direttiva all'interno della forza lavoro di Anthropic ad aver reso la conformità così assoluta. I funzionari governativi hanno esplicitamente dichiarato che il divieto si applica a "qualsiasi cittadino straniero, sia dentro che fuori gli Stati Uniti, compresi i dipendenti stranieri di Anthropic" .

Questo significa che persino i ricercatori e gli ingegneri che lavorano al progetto Glass Wing — l'iniziativa interna di Anthropic per la sicurezza delle IA di frontiera — che non sono cittadini statunitensi o residenti permanenti, sono stati privati dell'accesso ai modelli . Con la restrizione applicata tra le mura della stessa azienda, Anthropic non poteva semplicemente limitare l'accesso ai clienti esterni e continuare lo sviluppo internamente. L'unica strada per la conformità era uno spegnimento globale completo, in attesa di trovare soluzioni tecniche o legali .

Questo episodio segna un'applicazione drammatica della legge americana sul controllo delle esportazioni all'intelligenza artificiale, trattando i modelli più avanzati alla stregua di armi o tecnologie sensibili per la difesa. Le regole sulle esportazioni "deemed" stabiliscono che condividere una tecnologia controllata con un cittadino straniero negli Stati Uniti equivale legalmente a esportarla all'estero .

La risposta di Anthropic: "Si tratta di un malinteso"

Anthropic si è conformata rapidamente ma ha chiarito di ritenere che il governo abbia sbagliato la valutazione. "Crediamo che si tratti di un malinteso e stiamo lavorando per ripristinare l'accesso il prima possibile", ha dichiarato la società nel suo comunicato pubblico .

L'azienda ha sottolineato che le prove di jailbreak ricevute erano ristrette e non universali, suggerendo che il governo potrebbe star sovrastimando i rischi pratici . Nel frattempo, la società ha promesso di mantenere online tutti gli altri modelli Claude mentre negozia un percorso per ripristinare Fable 5 e Mythos 5 .

Al momento, l'ordine senza precedenti rimane in vigore, e i due modelli di IA più potenti mai ritirati dall'accesso pubblico per ragioni di sicurezza nazionale restano spenti. Quanto durerà — e quale precedente creerà per altre aziende di IA di frontiera — sarà il prossimo capitolo nel dibattito in rapida intensificazione su chi può utilizzare i sistemi di intelligenza artificiale più capaci.