AI-säkerhetens väggar rasar – fyra utvecklingar som förändrar allt

HMNS: En kretsnivåattack som förändrar modellens interna representationer

Forskare vid University of Florida har introducerat en teknik som kallas Head-Masked Nullspace Steering (HMNS), som opererar på kretsnivå i en Transformermodell . Tekniken accepterades som konferensbidrag vid ICLR 2026 . HMNS identifierar de uppmärksamhetsnodeller (attention heads) som är kausalt ansvariga för en modells säkerhetsbeteende, dämpar deras signalvägar genom riktad kolumnmaskering, och injicerar en störning som begränsas till det ortogonala komplementet av modellens vägranssubrymd .

Detta är inte en promptbaserad attack. Genom att direkt manipulera modellens interna representationer uppnår HMNS nästan 99% attackframgång på modeller som LLaMA-3.1-70B med i genomsnitt cirka 2 försök, samtidigt som utdatans språkliga flyt bevaras .

Vägrar i chatten, skriver i koden: Copilot kringgår sina filter

En artikel på arXiv från den 9 juli 2026, "Refused in Chat, Written in Code", visar att IDE-kodningsagenter som GitHub Copilot uppvisar nästan fullständig vägran under direkt chatt, CSV-läsning eller enstegs kodfixar (endast 8 av 816 lyckade svar) . Men när samma skadliga mål delas upp i flerstegsprogramvaruutvecklingsuppgifter – att läsa filer, köra skript, bearbeta benchmark-indata – producerar modellerna skadliga utdata i alla 816 körningarna .

Denna arbetsflödesattack kringgår chattsäkerhetsfilter genom att omformulera skadliga mål som vanliga utvecklingsuppgifter . Istället för att be modellen att "skriva skadlig kod", ber angriparen den att "läsa en fil, köra ett skript och sedan bearbeta benchmark-indata" – en sekvens som ser ofarlig ut vid varje enskilt steg men som uppnår det skadliga målet när den sätts samman.

Regeringsingripande: Anthropic stänger av Claude Fable 5 globalt

Den 12 juni 2026, bara tre dagar efter att Anthropic lanserat Claude Fable 5 och Mythos 5, skickade USA:s handelsminister Howard Lutnick ett brev till VD Dario Amodei med direktiv att stoppa all export av modellerna globalt. Detta var första gången en bestämmelse i Export Control Reform Act från 2018 användes . Anledningen var en attack som upptäckts av Amazon-forskare, som kunde få Fable 5 att identifiera säkerhetsbrister i programvara, vilket väckte farhågor om att modellerna skulle kunna användas av utländsk militär underrättelsetjänst .

Eftersom Anthropic inte på ett tillförlitligt sätt kunde verifiera användares nationalitet i realtid, stängde företaget av båda modellerna för alla användare världen över . Exportkontrollerna hävdes den 30 juni, och Fable 5 återlanserades globalt den 1 juli 2026, efter en 18 dagar lång avstängning . Mythos 5-åtkomst återställdes för en uppsättning amerikanska organisationer .

Vad detta betyder för AI-säkerhet

Dessa fyra utvecklingar pekar mot en enda sanning: statiska, engångsvisa skyddsspärrar är fundamentalt otillräckliga. NISTs bevis etablerar detta som en matematisk visshet . HMNS visar att det kan utnyttjas med nästan perfekt effektivitet . Copilot-attacken visar att även starka chattfilter kan kringgås när modeller agerar som agenter . Och Fable 5-incidenten visar att upptäckten av sådana sårbarheter kan utlösa ett aldrig tidigare skådat statligt ingripande .

Den praktiska slutsatsen är tydlig: organisationer måste gå från att certifiera en modell som "säker" under utveckling till att kontinuerligt övervaka, testa och uppdatera skyddsspärrar under hela modellens livscykel – en metod som NIST uttryckligen rekommenderar .