Una disputa su cosa costituisca un jailbreak pericoloso

Il grilletto immediato per i controlli all'esportazione è stato un presunto jailbreak — un metodo per aggirare le barriere di sicurezza dei modelli. Tuttavia, le due parti discordavano nettamente sulla sua gravità.

• Posizione di Anthropic: Il CEO Dario Amodei ha sostenuto durante le chiamate di emergenza con i funzionari che il jailbreak in questione era "stretto" e "non universale" — non un bypass sistemico che potesse essere ampiamente sfruttato. L'azienda ha dichiarato pubblicamente che il governo aveva fornito solo "prove verbali di un potenziale jailbreak stretto e non universale" . "Non eravamo d'accordo sul fatto che il riscontro di un potenziale jailbreak stretto fosse un motivo per ritirare un modello commerciale", ha affermato Anthropic in un post sul blog .
• Posizione del governo: La Casa Bianca considerava qualsiasi bypass dimostrato delle barriere di sicurezza su un modello con capacità avanzate di cyber-offesa — Fable 5 era stato progettato in parte per identificare vulnerabilità software — come un rischio inaccettabile per la sicurezza nazionale, specialmente se i modelli rimanevano accessibili ad avversari stranieri .

Il disaccordo è rapidamente degenerato. Secondo diversi resoconti, Amodei ha reagito con forza nelle chiamate con i funzionari dell'amministrazione, descrivendo le preoccupazioni del governo come un fraintendimento, e a un certo punto i negoziati sono quasi falliti completamente .

La Casa Bianca ha designato Fable 5 come caso di prova per le sue nuove linee guida dell'ordine esecutivo sull'IA, coordinando i lavori tra Commercio, Tesoro e la stessa Casa Bianca . L'amministrazione temeva che le capacità dei modelli potessero consentire alla Cina l'accesso a strumenti offensivi di cybersecurity e ad altre tecnologie pericolose a duplice uso .

Dallo scontro al negoziato: costruire un quadro di conformità unificato

Entro pochi giorni dalla crisi dei controlli all'esportazione, la Casa Bianca e Anthropic sono passate dallo scontro a una negoziazione strutturata . Il 17 aprile 2026, Amodei ha incontrato i funzionari della Casa Bianca in quelli che sono stati descritti come produttivi colloqui di tregua — il primo contatto ad alto livello dall'attrito precedente tra Anthropic e il Pentagono .

Tra le figure chiave nei successivi colloqui ad alto livello figurano il Segretario al Commercio statunitense Howard Lutnick, il Direttore della Cyber Sicurezza Nazionale Sean Cairncross e il co-fondatore di Anthropic Tom Brown . L'amministrazione ha coordinato le attività tra Commercio, Tesoro e Casa Bianca per il caso di prova Fable 5 .

Il progetto centrale emerso da questi colloqui è un quadro di conformità unificato per valutare la gravità delle vulnerabilità di sicurezza — in particolare i jailbreak — nei modelli di IA all'avanguardia . Il framework è progettato per creare parametri di riferimento comuni per valutare se un difetto di sicurezza giustifichi un intervento governativo .

Il sistema di valutazione unificato: tre criteri

Al centro dello sforzo c'è un sistema di valutazione unificato per i jailbreak. Sebbene non siano state rilasciate pubblicamente etichette ufficiali (ad esempio, "Critico", "Alto", "Medio", "Basso") o una rubrica dettagliata, il framework valuta presumibilmente le vulnerabilità secondo tre criteri di valutazione del rischio :

1. Protezioni aggirate — Quali barriere di sicurezza (ad esempio, classificatori costituzionali, filtri in tempo reale) sono state superate.
2. Capacità esposte — Quali capacità pericolose del modello (ad esempio, offesa informatica, guida biologica, sintesi chimica) sono diventate accessibili.
3. Impatto nel mondo reale — Con quanta facilità il jailbreak potrebbe essere sfruttato su larga scala e quali danni potrebbero derivarne.

L'obiettivo del governo è utilizzare questo sistema di valutazione per stabilire soglie di rischio chiare e predefinite che determinerebbero automaticamente se imporre controlli all'esportazione, richiedere misure correttive o bloccare la distribuzione — piuttosto che agire in modo ad hoc dopo una crisi .

L'obiettivo strategico del governo: passare dal reattivo al basato su regole

L'obiettivo generale del governo è passare da un intervento reattivo, guidato dalla crisi, a un sistema basato su regole . Sviluppando congiuntamente il quadro di valutazione e le soglie di rischio con Anthropic, la Casa Bianca mira a:

• Creare prevedibilità per i laboratori di IA su cosa innesca l'azione del governo.
• Stabilire una terminologia condivisa per descrivere la gravità delle vulnerabilità.
• Evitare scenari futuri in cui un modello viene distribuito pubblicamente e poi improvvisamente spento con i controlli all'esportazione — come è successo con Fable 5 e Mythos 5.

Incertezza chiave: Non sono stati rilasciati pubblicamente criteri dettagliati, ambito o tempistiche per il framework. I tre criteri di valutazione del rischio (protezioni aggirate, capacità esposte, impatto nel mondo reale) sono stati riportati da più fonti, ma la metodologia di punteggio specifica non è stata resa nota .

Il contesto più ampio del G7

Lo sviluppo del framework USA-Anthropic avviene sullo sfondo delle discussioni del G7 sugli standard di sicurezza dell'IA. Il G7 sta lavorando per armonizzare i parametri di riferimento internazionali per la valutazione dei rischi dell'IA all'avanguardia . Ci si aspetta che il sistema di valutazione unificato che la Casa Bianca e Anthropic stanno costruendo informi — e sia informato da — quei più ampi colloqui multilaterali, sebbene i risultati specifici del G7 rimangano in fase di negoziazione .

Cosa succederà dopo

Lo sviluppo del framework segna una svolta significativa nella politica statunitense sull'IA. Solo pochi giorni prima dei controlli all'esportazione, Amodei aveva pubblicato un saggio politico in cui sosteneva che i governi dovrebbero detenere l'autorità legale obbligatoria per bloccare o invertire la distribuzione di modelli di IA all'avanguardia che non superano i test di sicurezza indipendenti . La crisi del 12 giugno ha messo quel principio a una prova inaspettatamente conflittuale.

La domanda chiave che rimane aperta: come definire il confine tra una vulnerabilità stretta e gestibile e un rischio sistemico che richiede un intervento governativo. La risposta plasmerà non solo le future versioni di Anthropic, ma anche il panorama normativo più ampio per lo sviluppo dell'IA all'avanguardia.

Una disputa su cosa costituisca un jailbreak pericoloso

Il grilletto immediato per i controlli all'esportazione è stato un presunto jailbreak — un metodo per aggirare le barriere di sicurezza dei modelli. Tuttavia, le due parti discordavano nettamente sulla sua gravità.

• Posizione di Anthropic: Il CEO Dario Amodei ha sostenuto durante le chiamate di emergenza con i funzionari che il jailbreak in questione era "stretto" e "non universale" — non un bypass sistemico che potesse essere ampiamente sfruttato. L'azienda ha dichiarato pubblicamente che il governo aveva fornito solo "prove verbali di un potenziale jailbreak stretto e non universale" . "Non eravamo d'accordo sul fatto che il riscontro di un potenziale jailbreak stretto fosse un motivo per ritirare un modello commerciale", ha affermato Anthropic in un post sul blog .
• Posizione del governo: La Casa Bianca considerava qualsiasi bypass dimostrato delle barriere di sicurezza su un modello con capacità avanzate di cyber-offesa — Fable 5 era stato progettato in parte per identificare vulnerabilità software — come un rischio inaccettabile per la sicurezza nazionale, specialmente se i modelli rimanevano accessibili ad avversari stranieri .

Il disaccordo è rapidamente degenerato. Secondo diversi resoconti, Amodei ha reagito con forza nelle chiamate con i funzionari dell'amministrazione, descrivendo le preoccupazioni del governo come un fraintendimento, e a un certo punto i negoziati sono quasi falliti completamente .

La Casa Bianca ha designato Fable 5 come caso di prova per le sue nuove linee guida dell'ordine esecutivo sull'IA, coordinando i lavori tra Commercio, Tesoro e la stessa Casa Bianca . L'amministrazione temeva che le capacità dei modelli potessero consentire alla Cina l'accesso a strumenti offensivi di cybersecurity e ad altre tecnologie pericolose a duplice uso .

Dallo scontro al negoziato: costruire un quadro di conformità unificato

Entro pochi giorni dalla crisi dei controlli all'esportazione, la Casa Bianca e Anthropic sono passate dallo scontro a una negoziazione strutturata . Il 17 aprile 2026, Amodei ha incontrato i funzionari della Casa Bianca in quelli che sono stati descritti come produttivi colloqui di tregua — il primo contatto ad alto livello dall'attrito precedente tra Anthropic e il Pentagono .

Tra le figure chiave nei successivi colloqui ad alto livello figurano il Segretario al Commercio statunitense Howard Lutnick, il Direttore della Cyber Sicurezza Nazionale Sean Cairncross e il co-fondatore di Anthropic Tom Brown . L'amministrazione ha coordinato le attività tra Commercio, Tesoro e Casa Bianca per il caso di prova Fable 5 .

Il progetto centrale emerso da questi colloqui è un quadro di conformità unificato per valutare la gravità delle vulnerabilità di sicurezza — in particolare i jailbreak — nei modelli di IA all'avanguardia . Il framework è progettato per creare parametri di riferimento comuni per valutare se un difetto di sicurezza giustifichi un intervento governativo .

Il sistema di valutazione unificato: tre criteri

Al centro dello sforzo c'è un sistema di valutazione unificato per i jailbreak. Sebbene non siano state rilasciate pubblicamente etichette ufficiali (ad esempio, "Critico", "Alto", "Medio", "Basso") o una rubrica dettagliata, il framework valuta presumibilmente le vulnerabilità secondo tre criteri di valutazione del rischio :

1. Protezioni aggirate — Quali barriere di sicurezza (ad esempio, classificatori costituzionali, filtri in tempo reale) sono state superate.
2. Capacità esposte — Quali capacità pericolose del modello (ad esempio, offesa informatica, guida biologica, sintesi chimica) sono diventate accessibili.
3. Impatto nel mondo reale — Con quanta facilità il jailbreak potrebbe essere sfruttato su larga scala e quali danni potrebbero derivarne.

L'obiettivo del governo è utilizzare questo sistema di valutazione per stabilire soglie di rischio chiare e predefinite che determinerebbero automaticamente se imporre controlli all'esportazione, richiedere misure correttive o bloccare la distribuzione — piuttosto che agire in modo ad hoc dopo una crisi .

L'obiettivo strategico del governo: passare dal reattivo al basato su regole

L'obiettivo generale del governo è passare da un intervento reattivo, guidato dalla crisi, a un sistema basato su regole . Sviluppando congiuntamente il quadro di valutazione e le soglie di rischio con Anthropic, la Casa Bianca mira a:

• Creare prevedibilità per i laboratori di IA su cosa innesca l'azione del governo.
• Stabilire una terminologia condivisa per descrivere la gravità delle vulnerabilità.
• Evitare scenari futuri in cui un modello viene distribuito pubblicamente e poi improvvisamente spento con i controlli all'esportazione — come è successo con Fable 5 e Mythos 5.

Incertezza chiave: Non sono stati rilasciati pubblicamente criteri dettagliati, ambito o tempistiche per il framework. I tre criteri di valutazione del rischio (protezioni aggirate, capacità esposte, impatto nel mondo reale) sono stati riportati da più fonti, ma la metodologia di punteggio specifica non è stata resa nota .

Il contesto più ampio del G7

Lo sviluppo del framework USA-Anthropic avviene sullo sfondo delle discussioni del G7 sugli standard di sicurezza dell'IA. Il G7 sta lavorando per armonizzare i parametri di riferimento internazionali per la valutazione dei rischi dell'IA all'avanguardia . Ci si aspetta che il sistema di valutazione unificato che la Casa Bianca e Anthropic stanno costruendo informi — e sia informato da — quei più ampi colloqui multilaterali, sebbene i risultati specifici del G7 rimangano in fase di negoziazione .

Cosa succederà dopo

Lo sviluppo del framework segna una svolta significativa nella politica statunitense sull'IA. Solo pochi giorni prima dei controlli all'esportazione, Amodei aveva pubblicato un saggio politico in cui sosteneva che i governi dovrebbero detenere l'autorità legale obbligatoria per bloccare o invertire la distribuzione di modelli di IA all'avanguardia che non superano i test di sicurezza indipendenti . La crisi del 12 giugno ha messo quel principio a una prova inaspettatamente conflittuale.

La domanda chiave che rimane aperta: come definire il confine tra una vulnerabilità stretta e gestibile e un rischio sistemico che richiede un intervento governativo. La risposta plasmerà non solo le future versioni di Anthropic, ma anche il panorama normativo più ampio per lo sviluppo dell'IA all'avanguardia.