Vitahuset och Anthropic bygger gemensamt ramverk för AI-säkerhet – efter dramatiska exportkontroller

En dispyt om vad som utgör en farlig jailbreak

Den omedelbara utlösaren för exportkontrollerna var en rapporterad jailbreak – en metod för att kringgå modellernas säkerhetsspärrar. Men de två sidorna var djupt oense om hur allvarligt hotet var.

• Anthropics position: Vd Dario Amodei argumenterade under akuta samtal med tjänstemän att den aktuella jailbreak-metoden var "smal" och "icke-universell" – inte ett systematiskt sätt att kringgå skydden som kunde utnyttjas i stor skala. Bolaget uppgav offentligt att regeringen endast hade presenterat "muntliga bevis för en potentiell smal, icke-universell jailbreak" . "Vi ansåg inte att fyndet av en smal potentiell jailbreak borde vara skäl nog att återkalla en kommersiell modell," skrev Anthropic i ett blogginlägg .
• Regeringens position: Vita huset ansåg att varje dokumenterat kringgående av säkerhetsspärrar på en modell med avancerade cyberattackförmågor – Fable 5 var delvis designad för att identifiera mjukvarusårbarheter – utgjorde en oacceptabel nationell säkerhetsrisk, särskilt om modellerna förblev tillgängliga för utländska motståndare .

Oenigheten eskalerade snabbt. Enligt flera rapporter högg Amodei ifrån kraftfullt under samtalen med regeringstjänstemän, beskrev deras oro som ett missförstånd, och vid ett tillfälle bröt nästan förhandlingarna samman helt .

Vita huset utsåg Fable 5 till en testcase för sina nya AI-säkerhetsriktlinjer och samordnade insatser mellan handelsdepartementet, finansdepartementet och Vita huset självt . Administrationen fruktade att modellernas förmågor skulle kunna ge Kina tillgång till avancerade cybersäkerhetsverktyg och andra farliga tekniker med dubbla användningsområden .

Från konfrontation till förhandling: Att bygga ett enhetligt ramverk

Inom några dagar efter exportkontrollkrisen skiftade Vita huset och Anthropic från konfrontation till strukturerade förhandlingar . Den 17 april 2026 möttes Amodei och Vita husets tjänstemän i vad som beskrevs som produktiva fredssamtal – den första kontakten på hög nivå sedan tidigare friktion mellan Anthropic och Pentagon .

Nyckelpersoner i de efterföljande högprofilerade diskussionerna inkluderar USA:s handelsminister Howard Lutnick, nationella cyberdirektören Sean Cairncross och Anthropics medgrundare Tom Brown . Administrationen har samordnat insatser mellan handelsdepartementet, finansdepartementet och Vita huset för Fable 5-testet .

Huvudprojektet som vuxit fram ur dessa samtal är ett enhetligt ramverk för regelefterlevnad som ska utvärdera allvarlighetsgraden av säkerhetsbrister – särskilt jailbreaks – i avancerade AI-modeller . Ramverket är designat för att skapa gemensamma riktmärken för att bedöma om en säkerhetsbrist motiverar statlig intervention .

Det enhetliga klassificeringssystemet: Tre kriterier

Centralt i arbetet är ett enhetligt klassificeringssystem för jailbreaks. Även om inga officiella etiketter (t.ex. "Kritisk," "Hög," "Medel," "Låg") eller en detaljerad poängsättningsmall har offentliggjorts, bedömer ramverket enligt uppgift sårbarheter utifrån tre riskbedömningskriterier :

1. Kringgångna skydd – Vilka säkerhetsspärrar (t.ex. konstitutionella klassificerare, realtidsfilter) som besegrades.
2. Exponerade förmågor – Vilka farliga modellförmågor (t.ex. cyberattacker, biologisk vägledning, kemisk syntes) som blev tillgängliga.
3. Verklig påverkan – Hur lätt jailbreaket kunde utnyttjas i stor skala och vilken skada som kunde uppstå.

Regeringens mål är att använda detta klassificeringssystem för att fastställa tydliga, förutbestämda risktrösklar som automatiskt skulle avgöra om exportkontroller ska införas, åtgärder krävas eller lansering blockeras – istället för att agera ad hoc efter en kris .

Regeringens strategiska mål: Från reaktivt till regelbaserat

Det övergripande målet för regeringen är att gå från reaktiva, krisdrivna insatser till ett regelbaserat system . Genom att tillsammans med Anthropic utveckla klassificeringsramverket och risktrösklarna vill Vita huset:

• Skapa förutsägbarhet för AI-labb om vad som utlöser statliga åtgärder.
• Etablera en gemensam terminologi för att beskriva allvarlighetsgraden av sårbarheter.
• Undvika framtida scenarier där en modell lanseras offentligt och sedan plötsligt stängs ner under exportkontroller – som hände med Fable 5 och Mythos 5.

Viktig osäkerhet: Inga detaljerade kriterier, omfattning eller tidplan för ramverket har offentliggjorts. De tre riskbedömningskriterierna (kringgångna skydd, exponerade förmågor, verklig påverkan) har rapporterats av flera medier, men den specifika poängsättningsmetodiken har inte offentliggjorts .

Den bredare G7-kontexten

Utvecklingen av det amerikansk-anthropiska ramverket sker mot bakgrund av G7-diskussioner om AI-säkerhetsstandarder. G7 har arbetat mot harmoniserade internationella riktmärken för att utvärdera risker med avancerad AI . Det enhetliga klassificeringssystem som Vita huset och Anthropic bygger förväntas både informera och påverkas av dessa bredare multilaterala samtal, även om specifika G7-utfall fortfarande förhandlas .

Vad händer härnäst?

Ramverkets utveckling markerar en betydande kursändring i USA:s AI-politik. Bara dagar före exportkontrollerna hade Amodei publicerat en policyessä där han argumenterade för att regeringar borde ha lagstadgad befogenhet att blockera eller återkalla lanseringen av avancerade AI-modeller som inte klarar oberoende säkerhetstester . Juni-krisen satte den principen på ett oväntat konfrontativt prov.

Den centrala frågan som fortfarande är öppen: hur man drar gränsen mellan en smal, hanterbar sårbarhet och en systemrisk som motiverar statlig intervention. Svaret kommer inte bara att forma Anthropics framtida lanseringar utan också det bredare regulatoriska landskapet för utveckling av avancerad AI.