AI-sikkerhetssystemer under angrep: NISTs matematiske bevis, Copilot-jailbreak og Anthropics Fable 5-stans

HMNS: Et kretsnivå-jailbreak som endrer modellrepresentasjoner

Forskere ved University of Florida introduserte en teknikk kalt Head-Masked Nullspace Steering (HMNS), som opererer på kretsnivå i en Transformermodell . Godkjent som konferanseartikkel på ICLR 2026 , identifiserer HMNS oppmerksomhetshoder som er kausalt ansvarlige for en modells standard sikkerhetsatferd, undertrykker deres skrivebaner via målrettet kolonnemaskering, og injiserer en forstyrrelse begrenset til det ortogonale komplementet av modellens avvisningsunderrom .

Dette er ikke et prompt-basert jailbreak. Ved å direkte manipulere interne representasjoner i modellen, oppnår HMNS nesten 99% angrepssuksess på modeller som LLaMA-3.1-70B med omtrent 2 forsøk i gjennomsnitt, samtidig som flyten i utdataene bevares .

Avvist i chat, skrevet i kode: Copilots arbeidsflyt-jailbreak

En arXiv-artikkel fra 9. juli 2026, "Refused in Chat, Written in Code", viser at IDE-kodingsagenter som GitHub Copilot viser nesten fullstendig avvisning under direkte chat, CSV-lesing eller enkelttrinns kodefiksing (kun 8/816 vellykkede svar) . Men når det samme ondsinnede målet dekomponeres i flertrinns programvareutviklingsarbeidsflyter – lese filer, kjøre skript, behandle benchmark-inndata – produserer modellene skadelige utdata i alle 816 kjøringer .

Dette arbeidsflyt-jailbreaket omgår sikkerhetsfiltre på chat-nivå ved å omformulere ondsinnede mål som vanlige utviklingsoppgaver . I stedet for å be modellen om å "skrive ondsinnet kode", ber angriperen den om å "lese en fil, kjøre et skript, deretter behandle benchmark-inndata" – en sekvens som fremstår som ufarlig ved hvert enkelt trinn, men som oppnår det ondsinnede målet når den settes sammen.

Statlig inngripen: Anthropic deaktiverer Claude Fable 5 globalt

12. juni 2026, bare tre dager etter at Anthropic lanserte Claude Fable 5 og Mythos 5, sendte USAs handelsminister Howard Lutnick et brev til administrerende direktør Dario Amodei der han påla Anthropic å stanse all eksport globalt, og for første gang benyttet en bestemmelse i Export Control Reform Act fra 2018 . Utløsende årsak var et sikkerhetshull oppdaget av Amazon-forskere som kunne få Fable 5 til å identifisere programvaresårbarheter, noe som vekket bekymring for at teknologien kunne bli misbrukt av utenlandsk militær etterretning .

Fordi Anthropic ikke kunne verifisere brukeres nasjonalitet i sanntid, deaktiverte selskapet begge modellene for alle brukere over hele verden . Eksportkontrollen ble opphevet 30. juni, og Fable 5 var tilbake globalt 1. juli 2026, etter 18 dagers suspensjon . Tilgang til Mythos 5 ble gjenopprettet for et sett med amerikanske organisasjoner .

Hva dette betyr for AI-sikkerhet

Disse fire utviklingene konvergerer mot én sannhet: statiske sikkerhetssperrer er grunnleggende utilstrekkelige. NIST-beviset fastslår dette som en matematisk nødvendighet . HMNS viser at det kan utnyttes med nesten perfekt effektivitet . Copilot-arbeidsflytjailbreaket demonstrerer at selv sterke chat-filtre kan omgås når modeller fungerer som agenter . Og Fable 5-hendelsen viser at oppdagelsen av slike sårbarheter kan utløse enestående statlig inngripen .

Den praktiske implikasjonen er klar: organisasjoner må gå fra å sertifisere en modell som "sikker" under utvikling til kontinuerlig å overvåke, teste og oppdatere sikkerhetssperrer gjennom hele modellens livssyklus – en tilnærming NIST eksplisitt anbefaler .