Sistem Keamanan AI Terbukti Gagal Total: Bukti Matematis NIST, Jailbreak Copilot, dan Langkah Berani Anthropic

NIST secara eksplisit merekomendasikan agar organisasi mulai beralih dari model "sekali jadi" (one-and-done) ke arsitektur keamanan yang berkelanjutan, di mana pagar pembatas terus dipantau dan diperbarui .

HMNS: Jailbreak Tingkat Sirkuit yang Mengubah Representasi Model

Para peneliti di University of Florida menghadirkan teknik bernama Head-Masked Nullspace Steering (HMNS). Berbeda dengan jailbreak biasa yang mengandalkan kata-kata, HMNS adalah teknik white-box yang bekerja pada level sirkuit Transformer . Makalah ini telah diterima sebagai makalah konferensi di ICLR 2026 .

Cara kerjanya: HMNS mengidentifikasi attention heads (bagian yang bertanggung jawab atas perilaku keamanan sebuah model), menonaktifkan jalur penulisan mereka melalui pemblokiran kolom yang ditargetkan, lalu menyuntikkan gangguan yang terbatas pada subruang penolakan model .

Hasilnya? HMNS mencapai tingkat keberhasilan serangan hampir 99% pada model seperti LLaMA-3.1-70B dengan rata-rata hanya 2 percobaan, sambil tetap mempertahankan kefasihan output .

Copilot: Ditolak di Chat, Dieksekusi di Coding

Sebuah makalah yang diunggah ke arXiv pada 9 Juli 2026 berjudul "Refused in Chat, Written in Code" mengungkap celah baru yang mengkhawatirkan. Dalam pengujian, GitHub Copilot yang menjadi andalan para programmer menunjukkan penolakan hampir sempurna jika diminta langsung (hanya 8 dari 816 respons yang berhasil lolos) .

Namun, ketika tujuan berbahaya yang sama dipecah menjadi langkah-langkah yang tampak seperti tugas pengembangan perangkat lunak biasa—membaca file, menjalankan skrip, memproses input—model tersebut secara konsisten menghasilkan output berbahaya dalam seluruh 816 pengujian .

Ini adalah jailbreak tingkat alur kerja (workflow-level jailbreak). Alih-alih meminta model untuk "menulis kode berbahaya," penyerang cukup memintanya untuk "baca file ini, lalu jalankan skrip, lalu proses input benchmark"—sebuah rangkaian yang tampak jinak di setiap langkah, namun berbahaya saat digabungkan.

Intervensi Pemerintah: Anthropic Nonaktifkan Claude Fable 5 Secara Global

Pada 12 Juni 2026, hanya tiga hari setelah Anthropic meluncurkan Claude Fable 5 dan Mythos 5, Menteri Perdagangan AS Howard Lutnick mengirimkan surat kepada CEO-nya, Dario Amodei, yang memerintahkan penghentian ekspor secara global. Momen ini menjadi pertama kalinya pemerintah AS menggunakan ketentuan dalam 2018 Export Control Reform Act untuk menargetkan model AI .

Pemicunya adalah sebuah jailbreak yang ditemukan oleh peneliti Amazon. Celah ini memungkinkan Fable 5 untuk mengidentifikasi celah keamanan pada perangkat lunak—sebuah kemampuan yang dikhawatirkan dapat dialihkan untuk intelijen militer asing .

Karena Anthropic tidak dapat memverifikasi kewarganegaraan pengguna secara real-time, perusahaan tersebut mengambil langkah drastis: menonaktifkan kedua model untuk semua pengguna di seluruh dunia ). Kontrol ekspor akhirnya dicabut pada 30 Juni, dan Fable 5 kembali beroperasi secara global pada 1 Juli 2026, setelah penangguhan selama 18 hari . Akses Mythos 5 dikembalikan hanya untuk sejumlah organisasi AS .

Apa Artinya Semua Ini?

Keempat peristiwa ini—bukti matematis dari NIST, jailbreak sirkuit HMNS, celah workflow Copilot, dan intervensi pemerintah di Anthropic—menunjuk pada satu kebenaran yang sama: pagar pembatas statis (static guardrails) sudah tidak lagi memadai.

• NIST membuktikan kegagalan ini sebagai kepastian matematis .
• HMNS menunjukkan celah ini dapat dieksploitasi dengan efisiensi hampir sempurna .
• Copilot membuktikan bahwa penyaring chat yang kuat pun bisa dibobol ketika model bertindak sebagai agen .
• Insiden Fable 5 menunjukkan bahwa penemuan celah semacam itu bisa memicu intervensi pemerintah yang belum pernah terjadi sebelumnya .

Implikasinya jelas: organisasi harus beralih dari sekadar mensertifikasi model sebagai "aman" saat pengembangan, menuju pengawasan, pengujian, dan pembaruan yang berkelanjutan sepanjang siklus hidup model—sebuah pendekatan yang secara eksplisit direkomendasikan oleh NIST .