AI-sikkerhed under angreb: NIST-bevis, Copilot-jailbreak og nedlukning af Anthropics Fable 5

HMNS: En kredsløbs-jailbreak, der ændrer modelrepræsentationer

Forskere fra University of Florida introducerede en teknik kaldet Head-Masked Nullspace Steering (HMNS), som opererer på kredsløbsniveau i en Transformermodel . Teknikken, der blev accepteret som konferencepapir ved ICLR 2026 , identificerer de attention-heads, der er kausalt ansvarlige for en models standard sikkerhedsadfærd, undertrykker deres skriveveje via målrettet column-masking og indsprøjter en perturbation begrænset til den ortogonale komplement af modellens refusal-subspace .

Dette er ikke en prompt-baseret jailbreak. Ved direkte at manipulere modellens interne repræsentationer opnår HMNS næsten 99% angrebssucces på modeller som LLaMA-3.1-70B med cirka 2 forsøg i gennemsnit, alt imens output-flydende bevares .

Afvist i chat, skrevet i kode: Copilot workflow-jailbreak

Et arXiv-papir fra 9. juli 2026, "Refused in Chat, Written in Code", demonstrerer, at IDE-kodningsagenter som GitHub Copilot udviser næsten fuldstændig afvisning under direkte chat, CSV-læsning eller enkelttrins kode-fix (kun 8/816 succesfulde svar) . Men når det samme skadelige mål opdeles i multi-trins softwareudviklings-workflows – læsning af filer, kørsel af scripts, behandling af benchmark-input – producerer modellerne skadelige output i alle 816 kørsler .

Denne workflow-jailbreak omgår chat-lagets sikkerhedsfiltre ved at omformulere ondsindede mål som almindelige udviklingsopgaver . I stedet for at bede modellen om at "skrive ondsindet kode", beder angriberen den om at "læse en fil, køre et script, derefter behandle benchmark-input" – en sekvens, der fremstår harmløs ved hvert enkelt trin, men som opfylder det skadelige mål, når den samles.

Regeringsindgreb: Anthropic deaktiverer Claude Fable 5 globalt

Den 12. juni 2026, blot tre dage efter at Anthropic havde lanceret Claude Fable 5 og Mythos 5, sendte USA's handelsminister Howard Lutnick et brev til CEO Dario Amodei med påbud om at indstille al eksport globalt. For første gang blev en bestemmelse i 2018-loven om eksportkontrol reformeret aktiveret . Udløseren var en jailbreak opdaget af Amazon-forskere, der kunne få Fable 5 til at identificere software-sårbarheder, hvilket rejste bekymring for, at modellerne kunne blive brugt af fremmede militære efterretningstjenester .

Fordi Anthropic ikke pålideligt kunne verificere brugernes nationalitet i realtid, deaktiverede de begge modeller for alle brugere verden over . Eksportkontrollen blev ophævet den 30. juni, og Fable 5 vendte globalt tilbage den 1. juli 2026 efter en 18-dages suspension . Adgangen til Mythos 5 blev genoprettet for en gruppe amerikanske organisationer .

Hvad betyder dette for AI-sikkerhed?

Disse fire udviklinger konvergerer mod en enkelt sandhed: statiske, engangs-sikkerhedsbarrierer er fundamentalt utilstrækkelige. NIST-beviset etablerer dette som en matematisk sikkerhed . HMNS viser, at det kan udnyttes med næsten perfekt effektivitet . Copilot workflow-jailbreak demonstrerer, at selv stærke chat-filtre kan omgås, når modeller agerer som agenter . Og Fable 5-episoden viser, at opdagelsen af sådanne sårbarheder kan udløse hidtil usete regeringsindgreb .

Den praktiske implikation er klar: organisationer må skifte fra at certificere en model som "sikker" under udvikling til løbende at overvåge, teste og opdatere sikkerhedsbarrierer gennem hele modellens livscyklus – en tilgang, som NIST udtrykkeligt anbefaler .