Slik utløste Amazon-sjefens advarsel det amerikanske forbudet mot Anthropics kraftigste AI

Ifølge rapporten kjørte Amazons forskere en rekke spesialtilpassede spørsmål, såkalte «prompts», mot Anthropics nyutgitte Fable 5-modell. De lyktes da med å hente ut informasjon som kunne brukes til å bistå cyberangrep – materiale modellens sikkerhetsmekanismer eksplisitt skulle holde utilgjengelig . Dette var ikke bare en overfladisk feil; kilder beskrev det som en reell omgåelse av sikkerheten som blottla potensielt farlige kapasiteter .

Jassys beslutning om å ta disse bekymringene direkte til toppledelsen i administrasjonen la grunnlaget for en dramatisk føderal intervensjon. Som investor i Anthropic ble Amazons trekk av noen sett på som et ansvarlig forsøk på «rød testing» (simulerte angrep for å teste sikkerhet), og av andre som et komplekst – og kanskje konkurransepreget – manøver fra en teknologigigant som både støtter sin partner og konkurrerer intenst med dem .

Myndighetenes historiske inngripen: Et eksportforbud

Jassys samtale utløste ikke bare en gjennomgang; den antente en lynrask reaksjon på eksportkontroll. Trump-administrasjonen konkluderte med at Anthropics modeller utgjorde en tilstrekkelig risiko for nasjonal sikkerhet til å kreve umiddelbare eksportrestriksjoner. Om kvelden fredag 12. juni sendte handelsminister Howard Lutnick et brev til Anthropics administrerende direktør, Dario Amodei, der Fable 5 og Mythos 5 formelt ble underlagt eksportrestriksjoner .

Direktivet var omfattende. Det suspenderte all tilgang til modellene for alle utenlandske statsborgere, både i og utenfor USA – en definisjon som til og med inkluderte Anthropics egne utenlandskfødte ansatte . Dette satte selskapet i en umulig situasjon.

Fordi Anthropic ikke kunne skille utenlandske fra amerikanske brukere i sanntid for å overholde den snevre juridiske ordren, tok de et drastisk valg. For å sikre full etterlevelse, stengte de brått tilgangen til både Fable 5 og Mythos 5 for alle brukere verden over, nøyaktig klokken 17:21 amerikansk østkysttid . Modeller som var lansert bare 72 timer tidligere, den 9. juni, ble dermed utilgjengelige for alle .

Kampen om narrativet: Slik svarte Amazon, Anthropic og David Sacks

Det som fulgte var en voldsom offentlig strid om alvoret i trusselen og det passende i myndighetenes respons.

Amazons strategiske taushet

Amazon avviste ikke offentlig rapportene i WSJ. Selv om selskapet ikke kom med noen formell uttalelse som direkte adresserte Jassys samtaler, var deres posisjon, sitert av kilder, at de handlet ansvarlig ved å varsle myndighetene om en reell sårbarhet oppdaget under intern sikkerhetsforskning . Denne fremstillingen presenterte Amazon som en sikkerhetsaktør i god tro, selv om deres rolle som Anthropics store investor tilførte et ekstra lag med kompleksitet til inntrykket.

Anthropics motangrep: Ubetydelige feil, ingen katastrofe

Anthropic bestred umiddelbart både innholdet og omfanget av myndighetenes handling. I en offentlig uttalelse bekreftet selskapet direktivet, men kalte det en «misforståelse» . De erkjente å ha gjennomgått den spesifikke teknikken for å lure modellen, men karakteriserte funnene som svært små. Anthropic uttalte at metoden kun identifiserte «et lite antall tidligere kjente, mindre sårbarheter» og argumenterte med at andre offentlig tilgjengelige modeller, inkludert OpenAIs GPT-5.5, var i stand til å finne lignende svakheter .

Selskapet tok et kraftig oppgjør med presedensen og uttalte: «Vi er uenige i at funnet av en smal, potensiell metode for å omgå sikkerheten bør være grunn til å tilbakekalle en kommersiell modell utplassert til hundrevis av millioner mennesker» .

David Sacks hevder selskapet nektet å utbedre

Myndighetenes narrativ var imidlertid radikalt annerledes. Tidligere AI- og kryptorådgiver i Det hvite hus, David Sacks, nå medleder for presidentens rådgivende utvalg for vitenskap og teknologi, kom med en detaljert offentlig redegjørelse som plasserte skylden direkte på Anthropics ledelse.

Sacks postet at en «høyst troverdig og betrodd partner av både Anthropic og den amerikanske regjeringen» – antatt å være Amazon – avdekket et såkalt «jailbreak» (knekk av sikkerhetsmekanismene) som var i stand til å strippe Fable 5s sikkerhetsbarrierer, og dermed blottlegge Mythos-modellens fulle, farligere kapasiteter . Ifølge Sacks ga administrasjonen deretter Anthropics direktør Dario Amodei et klart valg: enten å fikse sårbarheten eller å fjerne modellen .

Sacks hevdet at Amodei avslo begge alternativene. «Administrasjonen ba Dario om å fikse sikkerhetshullet eller ta modellen av nettet. Dario nektet,» uttalte Sacks, og la til at eksportkontrollen var et nødvendig og «motvillig» brukt tiltak for å håndtere en risiko selskapet ikke ville adressere selv . Sacks anklaget videre Anthropic for å opptre i ond tro, og kritiserte selskapet for tidligere å ha markedsført Mythos som et «cybersupervåpen» som trengte regulering, for deretter å avfeie bekymringene da de samme kapasitetene viste seg å stå i fare for å bli lekket .

Denne motstridende historien – et selskap som hevder å være offer for myndighetenes overreaksjon på en liten feil, mot en topptjenestemann som hevder en nektelse av å fikse en genuin risiko på våpennivå – definerer det som er tidenes viktigste AI-politiske konfrontasjon. Det hvite hus fastholdt at forbudet var et midlertidig tiltak som kunne oppheves dersom Anthropic utbedret sikkerhetsproblemet .