Di Balik Perintah AS yang Memaksa Anthropic Mematikan Model AI Barunya untuk Seluruh Dunia

"Dampak bersih dari perintah ini adalah kami harus secara tiba-tiba menonaktifkan Fable 5 dan Mythos 5 untuk semua pelanggan kami guna memastikan kepatuhan," demikian pernyataan perusahaan di blog resmi dan di X . Akses ke model AI lainnya, termasuk chatbot Claude yang banyak digunakan, tetap tidak terpengaruh .

Apa yang Memicu Tindakan Pemerintah

Kekhawatiran keamanan nasional pemerintah berpusat pada apa yang digambarkan oleh para pejabat sebagai kerentanan 'jailbreak'—sebuah metode untuk melewati batasan keamanan model— dan potensi model untuk melakukan penelitian keamanan siber secara otonom . Menurut laporan, pemerintah hanya memberikan bukti lisan tentang potensi jailbreak yang sempit dan tidak universal—pada dasarnya sebuah metode untuk meminta model membaca basis kode tertentu dan memperbaiki kelemahan perangkat lunak .

Peringatan keamanan Anthropic sendiri sebelumnya tentang modelnya mungkin secara tidak sengaja turut meningkatkan kekhawatiran pemerintah. Perusahaan sebelumnya telah mengakui bahwa Mythos 5, model paling mumpuni yang ditujukan untuk penggunaan terbatas, menghadirkan risiko keamanan siber yang signifikan, yang membuat Gedung Putih menyiapkan perlindungan bagi lembaga federal yang diberi akses khusus . Fable 5 dirilis ke publik hanya beberapa hari sebelum larangan sebagai versi yang lebih aman yang dilatih untuk menolak permintaan berbahaya, tetapi langkah cepat pemerintah menunjukkan bahwa mereka tidak yakin perlindungannya memadai .

Ini adalah pertama kalinya pemerintah AS mengklasifikasikan model bahasa besar (LLM) tertentu sebagai masalah keamanan nasional dan menggunakan aturan 'deemed-export' untuk membatasi akses bahkan bagi warga negara asing yang bekerja di tanah AS. Secara sederhana, aturan 'deemed-export' berarti berbagi teknologi yang dikontrol dengan warga negara asing di dalam AS secara hukum setara dengan mengekspornya ke luar negeri . Menteri Perdagangan Howard Lutnick secara pribadi menyampaikan kontrol ekspor ini kepada CEO Anthropic, Dario Amodei, melalui surat .

Pemberlakuan Tanpa Preseden yang Mencakup Karyawan Anthropic Sendiri

Jangkauan arahan ini terhadap tenaga kerja Anthropic-lah yang membuat kepatuhan menjadi sangat absolut. Pejabat pemerintah secara eksplisit menyatakan bahwa larangan tersebut berlaku untuk "setiap warga negara asing, baik di dalam maupun di luar Amerika Serikat, termasuk karyawan asing Anthropic" .

Ini berarti bahkan para peneliti dan insinyur yang mengerjakan proyek Glass Wing—inisiatif internal Anthropic untuk keamanan frontier—yang bukan warga negara AS atau penduduk tetap dilarang mengakses model-model tersebut . Dengan pembatasan yang berlaku di dalam perusahaan sendiri, Anthropic tidak bisa hanya membatasi akses pelanggan eksternal dan melanjutkan pengembangan secara internal. Satu-satunya jalan menuju kepatuhan adalah penutupan global total sampai solusi teknis atau hukum dapat ditemukan .

Episode ini menandai penerapan dramatis hukum kontrol ekspor AS pada kecerdasan buatan, memperlakukan model-model canggih lebih seperti senjata atau teknologi pertahanan yang sensitif.

Tanggapan Anthropic: Ini Sebuah "Kesalahpahaman"

Anthropic dengan cepat mematuhinya, tetapi memperjelas bahwa mereka yakin pemerintah salah dalam hal ini. "Kami yakin ini adalah kesalahpahaman dan sedang berupaya untuk memulihkan akses sesegera mungkin," kata perusahaan itu dalam pernyataan publiknya .

Perusahaan telah menekankan bahwa bukti jailbreak yang diterimanya sempit dan tidak universal, menunjukkan bahwa pemerintah mungkin melebih-lebihkan risiko praktisnya . Sementara itu, perusahaan telah berjanji untuk menjaga semua model Claude lainnya tetap online sambil menegosiasikan jalan untuk memulihkan Fable 5 dan Mythos 5 .

Untuk saat ini, perintah yang belum pernah terjadi sebelumnya ini tetap berlaku, dan dua model AI paling kuat yang pernah ditarik dari akses publik karena alasan keamanan nasional tetap tidak aktif. Berapa lama ini akan berlangsung—dan preseden apa yang diciptakannya bagi perusahaan AI frontier lainnya—akan menjadi babak berikutnya dalam perdebatan yang meningkat pesat tentang siapa yang boleh menggunakan sistem AI paling mumpuni.