Gedung Putih dan Anthropic Kembangkan Sistem Peringkat untuk Keamanan AI

Sengketa tentang Apa yang Dimaksud dengan Jailbreak Berbahaya

Pemicu langsung dari kontrol ekspor adalah laporan tentang jailbreak — sebuah metode untuk melewati pengaman model. Namun, kedua belah pihak berbeda pendapat secara tajam tentang tingkat keparahannya.

• Posisi Anthropic: CEO Dario Amodei berargumen dalam panggilan darurat dengan pejabat bahwa jailbreak yang dimaksud bersifat "sempit" dan "tidak universal" — bukan celah sistemik yang bisa dieksploitasi secara luas. Perusahaan menyatakan secara publik bahwa pemerintah hanya memberikan "bukti verbal tentang potensi jailbreak sempit yang tidak universal" . “Kami tidak setuju bahwa temuan jailbreak sempit yang potensial harus menjadi alasan untuk menarik model komersial,” kata Anthropic dalam sebuah posting blog .
• Posisi Pemerintah: Gedung Putih menganggap setiap demonstrasi pengaman yang berhasil dilewati pada model dengan kemampuan serangan siber canggih — Fable 5 dirancang sebagian untuk mengidentifikasi kerentanan perangkat lunak — sebagai risiko keamanan nasional yang tidak dapat diterima, terutama jika model tetap dapat diakses oleh musuh asing .

Perbedaan pendapat ini meningkat dengan cepat. Menurut beberapa laporan, Amodei menolak dengan keras dalam panggilan dengan pejabat pemerintahan, menggambarkan kekhawatiran pemerintah sebagai kesalahpahaman, dan pada satu titik negosiasi hampir gagal total .

Gedung Putih menetapkan Fable 5 sebagai kasus uji untuk aturan main baru dalam perintah eksekutif AI, dengan mengoordinasikan Departemen Perdagangan, Departemen Keuangan, dan Gedung Putih sendiri . Pemerintah khawatir kemampuan model dapat memungkinkan akses Tiongkok ke alat ofensif keamanan siber dan teknologi penggunaan ganda berbahaya lainnya .

Dari Konfrontasi ke Negosiasi: Membangun Kerangka Kepatuhan yang Terpadu

Dalam hitungan hari setelah krisis kontrol ekspor, Gedung Putih dan Anthropic beralih dari konfrontasi ke negosiasi terstruktur . Pada 17 April 2026, Amodei bertemu dengan pejabat Gedung Putih dalam apa yang digambarkan sebagai pembicaraan gencatan senjata yang produktif — kontrak tingkat senior pertama sejak gesekan sebelumnya antara Anthropic dan Pentagon .

Tokoh-tokoh kunci dalam diskusi tingkat tinggi selanjutnya termasuk Menteri Perdagangan AS Howard Lutnick, Direktur Keamanan Siber Nasional Sean Cairncross, dan salah satu pendiri Anthropic, Tom Brown . Pemerintah telah berkoordinasi di seluruh Departemen Perdagangan, Keuangan, dan Gedung Putih untuk kasus uji Fable 5 .

Proyek utama yang muncul dari pembicaraan ini adalah kerangka kepatuhan terpadu untuk mengevaluasi tingkat keparahan kerentanan keamanan — terutama jailbreak — pada model AI garis depan . Kerangka ini dirancang untuk menciptakan tolok ukur bersama untuk menilai apakah cacat keamanan membenarkan intervensi pemerintah .

Sistem Penilaian Terpadu: Tiga Kriteria

Inti dari upaya ini adalah sistem penilaian terpadu untuk jailbreak. Meskipun tidak ada label resmi (misalnya, "Kritis," "Tinggi," "Sedang," "Rendah") atau rubrik terperinci yang telah dirilis ke publik, kerangka ini dilaporkan menilai kerentanan berdasarkan tiga kriteria penilaian risiko :

1. Perlindungan yang dilewati — Pengaman mana (misalnya, pengklasifikasi konstitusional, filter waktu nyata) yang berhasil dikalahkan.
2. Kemampuan yang terekspos — Kemampuan berbahaya model apa (misalnya, ofensif siber, panduan biologi, sintesis kimia) yang menjadi dapat diakses.
3. Dampak di dunia nyata — Seberapa mudah jailbreak dapat dieksploitasi dalam skala besar dan bahaya apa yang dapat ditimbulkan.

Tujuan pemerintah adalah menggunakan sistem penilaian ini untuk menetapkan ambang batas risiko yang jelas dan telah ditentukan sebelumnya yang secara otomatis akan menentukan apakah akan memberlakukan kontrol ekspor, memerlukan mitigasi, atau memblokir penerapan — daripada bertindak secara ad hoc setelah krisis terjadi .

Tujuan Strategis Pemerintah: Beralih dari Reaktif ke Berbasis Aturan

Tujuan pemerintah secara keseluruhan adalah beralih dari intervensi reaktif yang digerakkan oleh krisis ke sistem berbasis aturan . Dengan mengembangkan kerangka penilaian dan ambang batas risiko bersama dengan Anthropic, Gedung Putih bertujuan untuk:

• Menciptakan prediktabilitas bagi laboratorium AI tentang apa yang memicu tindakan pemerintah.
• Menetapkan istilah bersama untuk menggambarkan tingkat keparahan kerentanan.
• Menghindari skenario masa depan di mana model diterapkan secara publik, lalu tiba-tiba dihentikan di bawah kontrol ekspor — seperti yang terjadi pada Fable 5 dan Mythos 5.

Ketidakpastian utama: Tidak ada kriteria, ruang lingkup, atau jadwal terperinci untuk kerangka kerja yang telah dirilis ke publik. Tiga kriteria penilaian risiko (perlindungan yang dilewati, kemampuan yang terekspos, dampak di dunia nyata) telah dilaporkan oleh beberapa media tetapi metodologi penilaian spesifiknya belum diungkapkan .

Konteks G7 yang Lebih Luas

Pengembangan kerangka kerja AS-Anthropic terjadi dengan latar belakang diskusi G7 tentang standar keamanan AI. G7 telah bekerja menuju tolok ukur internasional yang selaras untuk mengevaluasi risiko AI garis depan . Sistem penilaian terpadu yang dibangun oleh Gedung Putih dan Anthropic diharapkan dapat menginformasikan — dan dipengaruhi oleh — pembicaraan multilateral yang lebih luas tersebut, meskipun hasil spesifik G7 masih dalam negosiasi .

Apa yang Akan Terjadi Selanjutnya

Pengembangan kerangka kerja ini menandai perubahan signifikan dalam kebijakan AI AS. Beberapa hari sebelum kontrol ekspor, Amodei telah menerbitkan esai kebijakan yang berargumen bahwa pemerintah harus memiliki wewenang hukum wajib untuk memblokir atau membalikkan penerapan model AI garis depan yang gagal dalam pengujian keamanan independen . Krisis 12 Juni membuat prinsip itu diuji dengan cara yang tidak terduga dan konfrontatif.

Pertanyaan kunci yang masih terbuka: bagaimana mendefinisikan garis antara kerentanan sempit yang dapat dikelola dan risiko sistemik yang memerlukan intervensi pemerintah. Jawabannya tidak hanya akan membentuk perilisan Anthropic di masa depan tetapi juga lanskap regulasi yang lebih luas untuk pengembangan AI garis depan.