Bezpieczeństwo AI w 2026: Dowód NIST, nowa klasa ataków i rządowe wyłączenie modelu

HMNS: Jailbreak na poziomie obwodów

Naukowcy z University of Florida zaprezentowali technikę o nazwie Head-Masked Nullspace Steering (HMNS), która działa na poziomie obwodów modelu Transformer . Artykuł został zaakceptowany na konferencji ICLR 2026 . Metoda identyfikuje głowice uwagi odpowiedzialne za domyślne zachowania bezpieczeństwa modelu, tłumi ich działanie przez maskowanie kolumn wag, a następnie wstrzykuje zakłócenie skierowane w podprzestrzeń odpowiedzialną za odrzucanie szkodliwych próśb .

To nie jest jailbreak oparty na odpowiednim formułowaniu poleceń. Poprzez bezpośrednią ingerencję w wewnętrzne reprezentacje modelu, HMNS osiąga prawie 99% skuteczności ataku na modele takie jak LLaMA-3.1-70B, przy zaledwie około 2 próbach średnio, zachowując przy tym płynność generowanego tekstu .

Odmowa w czacie, wykonanie w kodzie: Przepływ pracy jako wektor ataku

Artykuł opublikowany 9 lipca 2026 roku na arXiv, zatytułowany „Refused in Chat, Written in Code”, pokazuje, że agenci programistyczni, tacy jak GitHub Copilot, wykazują prawie całkowitą odmowę wykonania szkodliwych działań przy bezpośrednim zapytaniu (tylko 8/816 udanych odpowiedzi) . Jednak gdy ten sam szkodliwy cel zostanie rozbity na wieloetapowy przepływ pracy – odczyt plików, uruchomienie skryptów, przetworzenie danych testowych – modele generują szkodliwe wyniki we wszystkich 816 przypadkach .

Ten jailbreak oparty na przepływie pracy omija filtry bezpieczeństwa na poziomie czatu, przekształcając złośliwy cel w sekwencję zwykłych zadań programistycznych . Zamiast prosić model o „napisanie złośliwego kodu”, atakujący prosi go o „odczytanie pliku, uruchomienie skryptu i przetworzenie danych testowych” – ciąg czynności, które na każdym etapie wyglądają niewinnie, ale po złożeniu realizują szkodliwy cel.

Interwencja rządu USA: Globalne wyłączenie Claude Fable 5

12 czerwca 2026 roku, zaledwie trzy dni po premierze modeli Claude Fable 5 i Mythos 5 przez Anthropica, Sekretarz Handlu USA Howard Lutnick wysłał list do CEO Dario Amodei, nakazując Anthropicowi wstrzymanie eksportu na cały świat . Było to pierwsze użycie przepisów ustawy o kontroli eksportu z 2018 roku . Bezpośrednim powodem był jailbreak odkryty przez badaczy Amazonu, który umożliwiał Fable 5 identyfikację luk w oprogramowaniu, co wzbudziło obawy o wykorzystanie modelu przez obce służby wywiadowcze .

Ponieważ Anthropic nie był w stanie w czasie rzeczywistym zweryfikować narodowości użytkowników, wyłączył oba modele dla wszystkich użytkowników na całym świecie . Kontrola eksportu została zniesiona 30 czerwca, a Fable 5 powrócił do globalnego użytku 1 lipca 2026 roku, po 18-dniowej przerwie . Dostęp do Mythos 5 przywrócono wybranej grupie organizacji w USA .

Co to oznacza dla bezpieczeństwa AI?

Te cztery wydarzenia prowadzą do jednego wniosku: statyczne, jednorazowe zabezpieczenia są fundamentalnie niewystarczające. Dowód NIST potwierdza to jako matematyczną pewność . HMNS pokazuje, że tę podatność można wykorzystać z niemal idealną skutecznością . Jailbreak asystentów programistycznych dowodzi, że nawet silne filtry na poziomie czatu można ominąć, gdy modele działają jako agenci . A incydent z modelem Fable 5 pokazuje, że wykrycie takich luk może prowadzić do bezprecedensowej interwencji rządu .

Implikacje są jasne: organizacje muszą przejść od certyfikowania modelu jako „bezpiecznego” na etapie rozwoju do ciągłego monitorowania, testowania i aktualizacji zabezpieczeń przez cały cykl życia modelu – podejście wyraźnie zalecane przez NIST .