Derfor trakk USA ut støpselet på Anthropics kraftigste KI – global nedstengning

"Nettovirkningen av denne ordren er at vi umiddelbart må deaktivere Fable 5 og Mythos 5 for alle våre kunder for å sikre etterlevelse," uttalte selskapet på sin offisielle blogg og på X (tidligere Twitter) . Tilgangen til deres andre KI-modeller, inkludert den mye brukte chatbotten Claude, forblir upåvirket .

Hva utløste regjeringens inngripen?

Regjeringens sikkerhetsbekymring dreier seg om det tjenestemenn beskrev som "jailbreak"-sårbarheter og modellenes potensial til å utføre autonom cybersikkerhetsforskning . Ifølge rapporter ga myndighetene kun muntlig bevis på et potensielt, snevert og ikke-universelt "jailbreak" – i bunn og grunn en metode for å be modellen lese en spesifikk kodebase og fikse programvarefeil .

Anthropics egne, tidligere sikkerhetsadvarsler om modellene kan utilsiktet ha bidratt til regjeringens alarm. Selskapet hadde tidligere erkjent at Mythos 5, deres mest kapable modell ment for begrenset bruk, utgjorde en betydelig cybersikkerhetsrisiko. Dette førte til at Det hvite hus satte opp beskyttelsestiltak for de føderale etatene som fikk spesialtilgang . Fable 5 ble sluppet offentlig bare dager før forbudet, som en tryggere versjon som var trent til å avslå skadelige forespørsler, men regjeringens raske trekk antyder at de ikke var overbevist om at sikkerhetsmekanismene var gode nok .

Dette er første gang den amerikanske regjeringen har klassifisert en spesifikk, stor språkmodell som en nasjonal sikkerhetsbekymring og brukt regler for "ansett som eksport" (deemed-export) for å begrense tilgang, selv for utenlandske statsborgere som jobber på amerikansk jord . Handelsminister Howard Lutnick kommuniserte personlig eksportkontrollene til Anthropics administrerende direktør, Dario Amodei, via et brev .

Det unike grepet: Inkluderer Anthropics egne ansatte

Direktivets rekkevidde inn i Anthropics egen arbeidsstyrke er det som gjorde etterlevelsen så absolutt. Regjeringskilder uttalte eksplisitt at forbudet gjelder "enhver utenlandsk statsborger, enten i eller utenfor USA, inkludert utenlandske statsborgere ansatt i Anthropic" .

Dette innebar at selv forskere og ingeniører som jobbet med "Glass Wing"-prosjektet – Anthropics interne initiativ for sikkerhet på fremtidens teknologi – som ikke er amerikanske statsborgere eller fastboende, ble nektet tilgang til modellene . Med en begrensning som gjaldt innenfor selskapets egne vegger, kunne ikke Anthropic bare begrense ekstern kundetilgang og fortsette utviklingen internt. Eneste vei til etterlevelse var en fullstendig global nedstengning inntil tekniske eller juridiske løsninger var på plass .

Episoden markerer en dramatisk anvendelse av amerikansk eksportkontrollov på kunstig intelligens, der avanserte modeller i praksis behandles mer som våpen eller sensitiv forsvarsteknologi. Reglene for "ansett som eksport" (deemed-export) betyr at deling av kontrollert teknologi med en utenlandsk statsborger inne i USA juridisk sett er likestilt med å eksportere den til utlandet .

Anthropics svar: Dette er en «misforståelse»

Anthropic etterkom ordren raskt, men gjorde det klart at de mener regjeringen tar feil. "Vi mener dette er en misforståelse, og jobber med å gjenopprette tilgangen så snart som mulig," sa selskapet i sin offentlige uttalelse .

Selskapet har understreket at jailbreak-bevisene de mottok var smale og ikke universelle, noe som antyder at myndighetene kan overvurdere den praktiske risikoen . I mellomtiden har selskapet lovet å holde alle andre Claude-modeller på nett mens de forhandler om en vei tilbake for Fable 5 og Mythos 5 .

Foreløpig står den enestående ordren ved lag, og de to kraftigste KI-modellene som noensinne har blitt trukket fra offentlig tilgang av nasjonale sikkerhetsgrunner, forblir mørke. Hvor lenge dette varer – og hvilken presedens det skaper for andre ledende KI-selskaper – blir neste kapittel i den raskt tiltagende debatten om hvem som skal få bruke de mest kapable KI-systemene.