Tekoälyn turvajärjestelmien kriisi: NIST todistaa matematiikan voimin, etteivät suojat riitä

HMNS: piirirakenteen jailbreak, joka muuttaa mallin sisäisiä toimintoja

Floridan yliopiston tutkijat esittelivät Head-Masked Nullspace Steering (HMNS) -tekniikan, joka toimii Transformer-mallin piirirakenteen tasolla . Hyväksytty ICLR 2026 -konferenssissa , HMNS tunnistaa ne tarkennuspäät, jotka ovat syy-seuraussuhteessa mallin turvallisuuskäyttäytymiseen, vaimentaa niiden kirjoitusreittejä kohdennetulla sarakkeiden maskauksella ja lisää häiriön, joka on rajoitettu ortogonaaliseen komplementtiin mallin kieltäytymisavaruudesta .

Tämä ei ole kehotepohjainen jailbreak. Suoraan mallin sisäisiin esityksiin vaikuttamalla HMNS saavuttaa lähes 99 %:n hyökkäysonnistumisen malleissa kuten LLaMA-3.1-70B keskimäärin noin kahdella yrityksellä, samalla kun tuloste pysyy sujuvana .

Kieltäytyy chatissa, kirjoittaa koodia: Copilotin työnkulun kiertotie

Heinäkuun 9. päivänä 2026 julkaistu arXiv-paperi "Refused in Chat, Written in Code" osoittaa, että IDE-koodausagentit kuten GitHub Copilot kieltäytyvät lähes täysin suorassa chatissa, CSV-lukemisessa tai yksivaiheisissa koodinkorjaustehtävissä (vain 8/816 onnistunutta vastausta) . Kun sama haitallinen tavoite jaetaan monivaiheisiksi ohjelmistokehityksen työnkuluiksi – tiedostojen lukeminen, skriptien suorittaminen, syötteiden käsittely – mallit tuottavat haitallisia tuloksia kaikissa 816 suorituksessa .

Tämä työnkulun jailbreak kiertää chat-tason turvasuodattimet esittämällä haitalliset tavoitteet tavallisina kehitystehtävinä . Sen sijaan, että malli kysyisi "kirjoita haittaohjelma", hyökkääjä pyytää "lue tiedosto, suorita skripti, käsittele syöte" – jokainen vaihe näyttää harmittomalta, mutta yhdessä ne toteuttavat haitallisen tavoitteen.

Hallituksen toimet: Anthropic poistaa Claude Fable 5:n maailmanlaajuisesti

Kesäkuun 12. päivänä 2026, vain kolme päivää Anthropicin julkaistua Claude Fable 5 ja Mythos 5 -mallit, Yhdysvaltain kauppaministeri Howard Lutnick lähetti kirjeen toimitusjohtaja Dario Amodeille, jossa vaadittiin Anthropicia lopettamaan vienti maailmanlaajuisesti. Tämä oli ensimmäinen kerta, kun vuoden 2018 vientivalvontalakia käytettiin tällä tavalla .

Syynä oli Amazonin tutkijoiden löytämä jailbreak, jolla Fable 5 saatiin tunnistamaan ohjelmistohaavoittuvuuksia, mikä herätti huolta mallien päätymisestä ulkomaisten sotilastiedustelujen käyttöön .

Koska Anthropic ei kyennyt luotettavasti varmistamaan käyttäjien kansalaisuutta reaaliajassa, se poisti molemmat mallit kaikilta käyttäjiltä maailmanlaajuisesti . Vientivalvonta purettiin kesäkuun 30. päivänä, ja Fable 5 palasi maailmanlaajuisesti saataville heinäkuun 1. päivänä 2026, 18 päivän tauon jälkeen . Mythos 5:n käyttöoikeus palautettiin joukolle yhdysvaltalaisia organisaatioita .

Mitä tämä tarkoittaa tekoälyn turvallisuudelle

Nämä neljä kehitystä viittaavat yhteen totuuteen: staattiset, kertaluonteiset suojamekanismit ovat perustavanlaatuisesti riittämättömiä. NISTin todiste osoittaa tämän matemaattisena varmuutena . HMNS osoittaa, että sitä voidaan hyödyntää lähes täydellisen tehokkaasti . Copilotin työnkulun jailbreak osoittaa, että vahvatkin chatin suodattimet voidaan kiertää, kun mallit toimivat agentteina . Fable 5 -tapaus osoittaa, että tällaisten haavoittuvuuksien löytyminen voi johtaa ennakkoluulottomiin hallituksen toimiin .

Käytännön viesti on selvä: organisaatioiden on siirryttävä mallin sertifioinnista "turvalliseksi" kehityksen aikana jatkuvaan valvontaan, testaukseen ja päivittämiseen koko mallin elinkaaren ajan – kuten NIST suosittelee .