Hvide Hus kræver nul AI-jailbreaks: Forskere siger, at det er teknisk umuligt

Hvorfor en "Nul-Jailbreak"-garanti er teknisk umulig

AI-forskere på tværs af industri og akademia er bredt enige om, at et "nul-jailbreak"-krav ikke kan opfyldes med nuværende metoder . Årsagerne ligger i de matematiske grundprincipper for, hvordan store sprogmodeller fungerer.

Jailbreak-paradokset. Et arXiv-papir fra 2024 (opdateret maj 2026) beviste formelt to paradokser: for det første er det umuligt at konstruere en perfekt jailbreak-klassificerer, og for det andet kan en svagere model ikke konsekvent opdage, om en stærkere model er blevet jailbreaked . Dette er ikke en fejl, der kan rettes – det er en matematisk begrænsning, der ligger i den måde, justering er defineret på.

Et modstanderkappløb, ikke et løseligt problem. Jailbreaking er fundamentalt et modstandsproblem. Angribere opdager konstant nye prompt-mønstre, kodnings tricks og multi-turn strategier, der undgår eksisterende filtre. Så snart en klasse af jailbreaks er lappet, opstår nye varianter .

Autonom jailbreak-skalerbarhed. Et studie fra marts 2026 offentliggjort i Nature Communications viste, at store ræsonnementsmodeller nu kan fungere som autonome jailbreak-agenter, og opnå en samlet succesrate på 97,14 % på tværs af alle testede modelkombinationer . Angrebsfladen vokser, ikke mindskes.

Ekspertkonsensus. Sikkerhedseksperter siger, at en fuldstændig blokering af jailbreaks "ville stoppe alle frontlinje-AI-udrulninger" – standarden er ikke et mål for fejlretning, men en eksistentiel umulighed .

Eskaleringen, der førte til ultimatummet

Dette krav opstod ikke i et vakuum. Det følger en klar bue af stigende regeringspres mod Anthropic:

1. Tidligere Pentagon-konflikt. Anthropic var allerede i en strid med den amerikanske regering om sine interaktioner med Pentagon, som havde udpeget virksomheden som en "forsyningskæderisiko" og instrueret føderale agenturer om at begrænse eller ophøre med at bruge dens produkter .

2. Amazon-udløseren. Amazon CEO Andy Jassy underrettede angiveligt Det Hvide Hus om specifikke sikkerhedsproblemer med Fable 5, hvilket accelererede administrationens indgriben . Mindst fem andre virksomheder slog også alarm .

3. Den pludselige nedlukning. Den 12. juni kl. 17:21 ET modtog Anthropic handelsministeriets brev. Omkring kl. 22 blev begge modeller slukket for alle kunder verden over – første gang USA havde anvendt eksportkontrol på en kommerciel AI-model, der allerede var i offentlig brug .

4. Nul-jailbreak-ultimatummet. Efter nedlukningen eskalerede Det Hvide Hus fra en eksportrestriktion til at pålægge en teknisk umulig sikkerhedsstandard som forudsætning for fremtidig udgivelse .

TechCrunch karakteriserede hele episoden som et politisk træk, der "aldrig handlede om et AI-jailbreak" – et signal om, at regeringen er villig til ensidigt at bestemme, hvornår en AI-model er for farlig at betjene .

Hvad regeringen faktisk vil

Det Hvide Hus' position, som rapporteret af flere medier, er, at Anthropics Fable 5-model kun kan vende tilbage, hvis virksomheden gør jailbreaks umulige . Dette er ikke en anmodning om gradvis forbedring eller en trinbaseret sårbarhedsstyringsproces – det er en binær absolut: enten findes der intet jailbreak nogen steder, eller også kan modellen ikke udrulles .

Anthropic har modsvaret og udtalt, at "ingen testere endnu har været i stand til at finde et universelt jailbreak" og at en total undgåelse af jailbreaks ikke er mulig for dem eller nogen anden virksomhed . Virksomheden bemærkede også, at den "ikke engang har modtaget en oplysning om et bekymrende ikke-universelt potentielt jailbreak, der førte til et skadeligt resultat" .

Anthropics tre strategiske muligheder

Baseret på rapportering fra flere medier står Anthropic over for tre brede strategiske veje:

1. Overholdelse og forhandling. CEO Dario Amodei mødtes med embedsmænd fra Det Hvide Hus den 15. juni for at forhandle en gensidigt acceptabel sårbarhedsvurderingsramme – en der erstatter nul-jailbreak-absolutten med en trinbaseret alvorlighedsstandard . Det Hvide Hus og Anthropic samarbejder angiveligt om en ramme til at evaluere alvorligheden af sikkerhedssårbarheder . Dette er den vej, Anthropic ser ud til at forfølge i øjeblikket.

2. Juridisk eller politisk udfordring. Anthropic kunne anfægte eksportkontrollen i retten og argumentere for, at regeringen overskred sin lovbestemte myndighed eller krænkede retsstatsprincipper ved at anvende eksportkontrol retrospektivt på et offentligt tilgængeligt kommercielt produkt . Dette ville være et højrisiko-træk med store indsatser, der kunne skabe en banebrydende præcedens.

3. Omstrukturering eller flytning af aktiviteter. Anthropic kunne begrænse modeludgivelser til jurisdiktioner med mere forudsigelige reguleringsmiljøer eller omstrukturere sin virksomhedsstruktur for at adskille amerikanvendte fra globale produkter. Nogle analytikere beskriver dette som "atomoptionen", der fundamentalt ville ændre Anthropics forretningsmodel.

Hvorfor dette er et vendepunkt for AI-industrien

Denne strid krystalliserer tre grundlæggende spændinger, der vil definere fremtiden for frontlinje-AI:

Teknisk virkelighed vs. regulatorisk absolutisme. Regeringen kræver en garanti – nul jailbreaks – som datalogi siger er umulig . Hvis administrationen insisterer på denne standard, har den reelt et veto over enhver frontlinjemodeludgivelse, da intet laboratorium kan leve op til barren.

Eksportkontrol på offentlig software. For første gang har USA anvendt eksportkontrol på en kommerciel AI-model, der allerede var offentligt tilgængelig . Dette skaber en præcedens for, at ethvert AI-laboratorium kan blive beordret til at lukke et produkt natten over baseret på en ensidig national sikkerhedsbedømmelse.

Uafhængighed vs. de facto tilsyn. Anthropic blev grundlagt med en missionsdrevet vægt på sikkerhed og uafhængighed. Det Hvide Hus' handling viser, at selv de mest "ansvarlige" laboratorier kan tvinges til at efterkomme teknisk urealistiske regeringsstandarder – eller få deres produkter simpelthen slukket . Som Bloomberg formulerede det, markerer blokeringen en "amerikansk omvendelse" og en "advarsel til Silicon Valley" om, at æraen med selvreguleret frontlinje-AI-udrulning kan være forbi .