AI-säkerhetens väggar rasar – fyra utvecklingar som förändrar allt

Första halvan av 2026 har varit en vattendelare för AI-säkerhet. Flera oberoende utvecklingar har tillsammans visat att dagens försvar är långt ifrån ogenomträngliga. Från ett formellt matematiskt bevis på att skyddsspärrar är dömda att misslyckas, till ett regeringsdirektiv som tvingade Anthropic att stänga av sina senaste modeller globalt – pekar allt mot att vi måste tänka om i grunden när det gäller hur vi skyddar avancerade AI-system.

Inga ändliga skyddsspärrar är universellt robusta: NISTs bevis

Den mest banbrytande utvecklingen kom från det amerikanska teknik- och standardiseringsinstitutet NIST. Den 9 juni 2026 tillkännagav NIST en peer-reviewed matematisk artikel av seniorforskaren Apostol Vassilev, publicerad i IEEE Security & Privacy (maj–juni 2026), som formellt utvidgar Kurt Gödels ofullständighetsteorem till AI-skyddsspärrar .

Kärnslutsatsen är skarp: "Ingen ändlig uppsättning skyddsspärrar är universellt robust mot anpassade attacker" . Eftersom naturligt språk är oändligt mångtydigt och skyddsspärrar nödvändigtvis är ändliga, kommer det alltid att finnas en attack som kan undgå upptäckt – inte på grund av dålig teknik, utan som en matematisk nödvändighet . NIST rekommenderar uttryckligen att organisationer övergår från en statisk, engångsmodell till en kontinuerlig säkerhetsarkitektur där skyddsspärrarna ständigt övervakas och uppdateras .

HMNS: En kretsnivåattack som förändrar modellens interna representationer

Forskare vid University of Florida har introducerat en teknik som kallas Head-Masked Nullspace Steering (HMNS), som opererar på kretsnivå i en Transformermodell . Tekniken accepterades som konferensbidrag vid ICLR 2026 . HMNS identifierar de uppmärksamhetsnodeller (attention heads) som är kausalt ansvariga för en modells säkerhetsbeteende, dämpar deras signalvägar genom riktad kolumnmaskering, och injicerar en störning som begränsas till det ortogonala komplementet av modellens vägranssubrymd .

Detta är inte en promptbaserad attack. Genom att direkt manipulera modellens interna representationer uppnår HMNS nästan 99% attackframgång på modeller som LLaMA-3.1-70B med i genomsnitt cirka 2 försök, samtidigt som utdatans språkliga flyt bevaras .

Vägrar i chatten, skriver i koden: Copilot kringgår sina filter

En artikel på arXiv från den 9 juli 2026, "Refused in Chat, Written in Code", visar att IDE-kodningsagenter som GitHub Copilot uppvisar nästan fullständig vägran under direkt chatt, CSV-läsning eller enstegs kodfixar (endast 8 av 816 lyckade svar) . Men när samma skadliga mål delas upp i flerstegsprogramvaruutvecklingsuppgifter – att läsa filer, köra skript, bearbeta benchmark-indata – producerar modellerna skadliga utdata i alla 816 körningarna .

Denna arbetsflödesattack kringgår chattsäkerhetsfilter genom att omformulera skadliga mål som vanliga utvecklingsuppgifter . Istället för att be modellen att "skriva skadlig kod", ber angriparen den att "läsa en fil, köra ett skript och sedan bearbeta benchmark-indata" – en sekvens som ser ofarlig ut vid varje enskilt steg men som uppnår det skadliga målet när den sätts samman.

Regeringsingripande: Anthropic stänger av Claude Fable 5 globalt

Den 12 juni 2026, bara tre dagar efter att Anthropic lanserat Claude Fable 5 och Mythos 5, skickade USA:s handelsminister Howard Lutnick ett brev till VD Dario Amodei med direktiv att stoppa all export av modellerna globalt. Detta var första gången en bestämmelse i Export Control Reform Act från 2018 användes . Anledningen var en attack som upptäckts av Amazon-forskare, som kunde få Fable 5 att identifiera säkerhetsbrister i programvara, vilket väckte farhågor om att modellerna skulle kunna användas av utländsk militär underrättelsetjänst .

Eftersom Anthropic inte på ett tillförlitligt sätt kunde verifiera användares nationalitet i realtid, stängde företaget av båda modellerna för alla användare världen över . Exportkontrollerna hävdes den 30 juni, och Fable 5 återlanserades globalt den 1 juli 2026, efter en 18 dagar lång avstängning . Mythos 5-åtkomst återställdes för en uppsättning amerikanska organisationer .

Vad detta betyder för AI-säkerhet

Dessa fyra utvecklingar pekar mot en enda sanning: statiska, engångsvisa skyddsspärrar är fundamentalt otillräckliga. NISTs bevis etablerar detta som en matematisk visshet . HMNS visar att det kan utnyttjas med nästan perfekt effektivitet . Copilot-attacken visar att även starka chattfilter kan kringgås när modeller agerar som agenter . Och Fable 5-incidenten visar att upptäckten av sådana sårbarheter kan utlösa ett aldrig tidigare skådat statligt ingripande .

Den praktiska slutsatsen är tydlig: organisationer måste gå från att certifiera en modell som "säker" under utveckling till att kontinuerligt övervaka, testa och uppdatera skyddsspärrar under hela modellens livscykel – en metod som NIST uttryckligen rekommenderar .