USA:s drastiska order: Anthropic tvingas stänga av sina mest kraftfulla AI-modeller för alla

"Nettoeffekten av denna order är att vi abrupt måste stänga av Fable 5 och Mythos 5 för alla våra kunder för att säkerställa att vi följer lagen", skrev företaget på sin officiella blogg och på X . Tillgången till företagets övriga AI-modeller, däribland den flitigt använda chatbotten Claude, påverkas inte .

Vad som utlöste regeringens agerande

Regeringens nationella säkerhetsoro kretsar kring vad tjänstemän beskrev som "jailbreak"-sårbarheter och modellernas potentiella förmåga att utföra autonom cybersäkerhetsforskning . Enligt rapporter ska regeringen endast ha presenterat muntliga bevis för en potentiell, smal och icke-universell jailbreak – i praktiken en metod för att be modellen läsa en specifik kodbas och åtgärda mjukvarufel .

Anthropics egna tidigare säkerhetsvarningar kan ironiskt nog ha bidragit till regeringens oro. Företaget hade tidigare erkänt att Mythos 5, dess mest kapabla modell avsedd för begränsad användning, utgjorde betydande cybersäkerhetsrisker, vilket fick Vita huset att upprätta skydd för de federala myndigheter som gavs särskild tillgång . Fable 5 släpptes offentligt bara dagar före förbudet som en säkrare version tränad att avvisa skadliga förfrågningar, men regeringens snabba agerande antyder att man inte var övertygad om att skyddsmekanismerna var tillräckliga .

Detta är första gången den amerikanska regeringen klassar en specifik stor språkmodell som ett nationellt säkerhetshot och använder så kallade deemed-export-regler för att begränsa tillgången även för utländska medborgare som arbetar på amerikansk mark . Handelsminister Howard Lutnick meddelade personligen exportkontrollerna till Anthropics vd Dario Amodei via ett brev .

Det historiska greppet mot Anthropics egna anställda

Det är direktivets räckvidd in i Anthropics egen personalstyrka som gjorde efterlevnaden så absolut. Regeringstjänstemän klargjorde uttryckligen att förbudet gäller "varje utländsk medborgare, oavsett om de befinner sig i eller utanför USA, inklusive utländska anställda på Anthropic" .

Detta innebar att även forskare och ingenjörer som arbetade med Glass Wing-projektet – Anthropics interna initiativ för gränssäkerhet – och som inte var amerikanska medborgare eller hade permanent uppehållstillstånd, förbjöds tillgång till modellerna . När ordern träffade företagets egna väggar kunde Anthropic inte bara begränsa extern tillgång och fortsätta utvecklingen internt. Den enda vägen till laglydnad var en total global nedstängning i väntan på att tekniska eller juridiska lösningar kunde utarbetas .

Avsnittet markerar en dramatisk tillämpning av amerikansk exportkontrollagstiftning på artificiell intelligens, där avancerade modeller nu behandlas mer som vapen eller känslig försvarsteknik. Deemed-export-reglerna innebär att dela kontrollerad teknologi med en utländsk medborgare på plats i USA juridiskt jämställs med att exportera den utomlands .

Anthropics svar: Detta är ett "missförstånd"

Anthropic rättade sig snabbt efter ordern men gjorde klart att man anser att regeringen har fattat ett felaktigt beslut. "Vi anser att detta är ett missförstånd och arbetar för att återställa tillgången så snart som möjligt", skrev företaget i sitt offentliga uttalande .

Företaget har betonat att de jailbreak-bevis man mottog var snäva och inte universella, vilket antyder att regeringen kan överskatta de praktiska riskerna . Under tiden har företaget lovat att hålla alla andra Claude-modeller online medan man förhandlar om en väg tillbaka för Fable 5 och Mythos 5 .

I skrivande stund står den historiska ordern fast, och de två mest kraftfulla AI-modeller som någonsin dragits tillbaka från allmänheten av nationella säkerhetsskäl förblir släckta. Hur länge det varar – och vilket prejudikat det skapar för andra AI-företag i framkant – blir nästa kapitel i den snabbt intensifierade debatten om vem som ska få använda de mest kapabla AI-systemen.