Sistem Keselamatan AI Tergugat: Bukti NIST, Jailbreak Copilot, dan Penutupan Fable 5 Anthropic

HMNS: Jailbreak Peringkat Litar Yang Mengubah Representasi Model

Penyelidik Universiti Florida memperkenalkan teknik yang dipanggil Head-Masked Nullspace Steering (HMNS), yang beroperasi pada peringkat litar model Transformer . Diterima sebagai kertas persidangan di ICLR 2026 , HMNS mengenal pasti kepala perhatian yang secara kausal bertanggungjawab terhadap tingkah laku keselamatan lalai model, menyekat laluan tulisannya melalui topeng lajur yang disasarkan, dan menyuntik gangguan yang dihadkan kepada pelengkap ortogon subruang penolakan model .

Ini bukan jailbreak berasaskan gesaan. Dengan memanipulasi terus perwakilan dalaman model, HMNS mencapai kadar kejayaan serangan hampir 99% pada model seperti LLaMA-3.1-70B dengan purata kira-kira 2 percubaan, sambil mengekalkan kelancaran output .

Ditolak dalam Sembang, Ditulis dalam Kod: Jailbreak Aliran Kerja Copilot

Kertas arXiv pada 9 Julai 2026, "Refused in Chat, Written in Code," menunjukkan bahawa ejen pengekodan IDE seperti GitHub Copilot memaparkan penolakan hampir lengkap di bawah garis dasar sembang langsung, bacaan CSV, atau pembetulan kod satu langkah (hanya 8/816 respons berjaya) . Walau bagaimanapun, apabila objektif berbahaya yang sama diuraikan kepada aliran kerja pembangunan perisian berbilang langkah—membaca fail, menjalankan skrip, memproses input penanda aras—model menghasilkan output berbahaya dalam semua 816 larian .

Jailbreak peringkat aliran kerja ini memintas penapis keselamatan lapisan sembang dengan merangka semula matlamat berniat jahat sebagai tugasan pembangunan biasa . Daripada meminta model "menulis kod berniat jahat," penyerang memintanya "membaca fail, menjalankan skrip, kemudian memproses input penanda aras"—urutan yang kelihatan tidak berbahaya pada setiap langkah individu tetapi mencapai objektif berbahaya apabila digubah.

Campur Tangan Kerajaan: Anthropic Lumpuhkan Claude Fable 5 Seluruh Dunia

Pada 12 Jun 2026, hanya tiga hari selepas Anthropic melancarkan Claude Fable 5 dan Mythos 5, Setiausaha Perdagangan AS Howard Lutnick menghantar surat kepada CEO Dario Amodei mengarahkan Anthropic untuk menghentikan eksport secara global, menggunakan peruntukan Akta Pembaharuan Kawalan Eksport 2018 buat kali pertama . Pencetusnya adalah jailbreak yang ditemui oleh penyelidik Amazon yang boleh menyebabkan Fable 5 mengenal pasti kelemahan perisian, menimbulkan kebimbangan tentang penyelewengan kepada perisikan tentera asing .

Oleh kerana Anthropic tidak dapat mengesahkan kewarganegaraan pengguna secara masa nyata, ia melumpuhkan kedua-dua model untuk semua pengguna di seluruh dunia . Kawalan eksport ditarik balik pada 30 Jun, dan Fable 5 kembali secara global pada 1 Julai 2026, selepas penggantungan 18 hari . Akses Mythos 5 dipulihkan kepada satu set organisasi AS .

Makna Ini untuk Keselamatan AI

Keempat-empat perkembangan ini bertumpu pada satu kebenaran: pagar keselamatan statik sekali sahaja adalah asasnya tidak mencukupi. Bukti NIST menetapkan ini sebagai kepastian matematik . HMNS menunjukkan ia boleh dieksploitasi dengan kecekapan hampir sempurna . Jailbreak aliran kerja Copilot menunjukkan bahawa walaupun penapis peringkat sembang yang kuat boleh dipintas apabila model bertindak sebagai ejen . Dan insiden Fable 5 menunjukkan bahawa penemuan kerentanan sedemikian boleh mencetuskan campur tangan kerajaan yang tidak pernah berlaku sebelum ini .

Implikasi praktikal adalah jelas: organisasi mesti beralih daripada memperakui model sebagai "selamat" semasa pembangunan kepada memantau, menguji, dan mengemas kini pagar keselamatan secara berterusan sepanjang kitaran hayat model—pendekatan yang disyorkan secara eksplisit oleh NIST .