Hvordan en smal AI-sikkerhetsbrist førte til global nedstengning og en ny regulatorisk æra

Uenighet om hva som utgjør et farlig jailbreak

Den umiddelbare utløseren for eksportkontrollene var et rapportert jailbreak — en metode for å omgå modellenes sikkerhetsbarrierer. Men de to sidene var sterkt uenige om alvorlighetsgraden.

• Anthropics posisjon: Administrerende direktør Dario Amodei argumenterte under nødsamtaler med tjenestemenn om at det aktuelle jailbreaket var «smalt» og «ikke-universelt» — ikke en systemisk omgåelse som kunne utnyttes i stor skala. Selskapet uttalte offentlig at regjeringen bare hadde gitt «muntlig bevis for et potensielt smalt, ikke-universelt jailbreak» . «Vi var uenige i at funnet av et smalt potensielt jailbreak burde være grunn til å tilbakekalle en kommersiell modell,» skrev Anthropic i et blogginnlegg .
• Regjeringens posisjon: Det hvite hus anså enhver dokumentert omgåelse av sikkerhetsbarrierer på en modell med avanserte cyberangrepsevner — Fable 5 var delvis designet for å identifisere programvaresårbarheter — som en uakseptabel nasjonal sikkerhetsrisiko, spesielt hvis modellene forble tilgjengelige for utenlandske motstandere .

Uenigheten eskalerte raskt. Ifølge flere rapporter gikk Amodei hardt ut i samtaler med administrasjonstjenestemenn, beskrev regjeringens bekymringer som en misforståelse, og på et tidspunkt brøt forhandlingene nesten fullstendig sammen .

Det hvite hus utpekte Fable 5 som et testcase for sine nye KI-ekskjæringsordrer, og koordinerte på tvers av handelsdepartementet, finansdepartementet og Det hvite hus selv . Administrasjonen fryktet at modellenes evner kunne gi Kina tilgang til verktøy for cybersikkerhetsangrep og andre farlige dual-use-teknologier .

Fra konfrontasjon til forhandling: Bygging av et felles regelverk

Innen få dager etter eksportkontrollkrisen gikk Det hvite hus og Anthropic fra konfrontasjon til strukturerte forhandlinger . Den 17. april 2026 møtte Amodei tjenestemenn i Det hvite hus i det som ble beskrevet som produktive våpenhvilesamtaler — den første kontakten på høyt nivå siden tidligere friksjon mellom Anthropic og Pentagon .

Sentrale personer i de påfølgende høynivådiskursjonene inkluderer USAs handelsminister Howard Lutnick, nasjonal cyberdirektør Sean Cairncross og Anthropic-medgründer Tom Brown . Administrasjonen har koordinert på tvers av handelsdepartementet, finansdepartementet og Det hvite hus for Fable 5-testcasen .

Hovedprosjektet som har vokst frem fra disse samtalene, er et felles regelverk for å vurdere alvorlighetsgraden av sikkerhetssårbarheter — spesielt jailbreaks — i fremtidige KI-modeller . Rammeverket er designet for å skape felles referansepunkter for å avgjøre om en sikkerhetsfeil rettferdiggjør statlig inngripen .

Det enhetlige karaktersystemet: Tre kriterier

Sentrally i arbeidet er et enhetlig karaktersystem for jailbreaks. Selv om ingen offisielle etiketter (f.eks. «Kritisk», «Høy», «Middels», «Lav») eller en detaljert rubrikk har blitt offentliggjort, rapporteres det at rammeverket vurderer sårbarheter langs tre risikovurderingskriterier :

1. Omgåtte beskyttelser — Hvilke sikkerhetsbarrierer (f.eks. konstitusjonelle klassifiserere, sanntidsfiltre) ble overvunnet.
2. Eksponerte kapabiliteter — Hvilke farlige modellkapabiliteter (f.eks. cyberangrep, biologisk veiledning, kjemisk syntese) ble tilgjengelige.
3. Reell påvirkning — Hvor lett jailbreaket kunne utnyttes i stor skala og hvilken skade det kunne forårsake.

Regjeringens mål er å bruke dette karaktersystemet til å etablere klare, forhåndsdefinerte risikogrenser som automatisk ville avgjøre om det skal innføres eksportkontroll, kreve avbøtende tiltak eller blokkere utrulling — i stedet for å handle ad hoc etter en krise .

Regjeringens strategiske mål: Fra reaktiv til regelbasert tilnærming

Det overordnede regjeringsmålet er å gå fra reaktiv, krisedrevet intervensjon til et regelbasert system . Ved å utvikle karaktersystemet og risikogrensene sammen med Anthropic, ønsker Det hvite hus å:

• Skape forutsigbarhet for KI-laboratorier om hva som utløser statlig handling.
• Etablere felles terminologi for å beskrive alvorlighetsgraden av sårbarheter.
• Unngå fremtidige scenarioer der en modell blir offentlig lansert og deretter brått stengt ned under eksportkontroll — slik tilfellet var med Fable 5 og Mythos 5.

Sentral usikkerhet: Ingen detaljerte kriterier, omfang eller tidslinje for rammeverket har blitt offentliggjort. De tre risikovurderingskriteriene (omgåtte beskyttelser, eksponerte kapabiliteter, reell påvirkning) er rapportert av flere medier, men den spesifikke poengsumsmetodikken er ikke .

Den bredere G7-sammenhengen

Utviklingen av rammeverket mellom USA og Anthropic finner sted på bakgrunn av G7-diskusjoner om KI-sikkerhetsstandarder. G7 har jobbet mot harmoniserte internasjonale referansepunkter for å evaluere risiko ved fremtidige KI-modeller . Det enhetlige karaktersystemet som Det hvite hus og Anthropic bygger, forventes å informere — og bli informert av — disse bredere multilaterale samtalene, selv om spesifikke G7-resultater fortsatt er under forhandling .

Hva skjer videre

Utviklingen av rammeverket markerer et betydelig skifte i amerikansk KI-politikk. Bare noen dager før eksportkontrollene publiserte Amodei et politisk essay der han argumenterte for at regjeringer burde ha obligatorisk juridisk myndighet til å blokkere eller reversere utrullingen av fremtidige KI-modeller som ikke består uavhengig sikkerhetstesting . Krisen 12. juni satte dette prinsippet på en uventet konfronterende prøve.

Det sentrale spørsmålet som gjenstår: hvordan definere grensen mellom en smal, håndterbar sårbarhet og en systemisk risiko som rettferdiggjør statlig inngripen. Svaret vil forme ikke bare Anthropics fremtidige lanseringer, men også det bredere regulatoriske landskapet for utvikling av fremtidige KI-modeller.