Anthropic dan AE Studio Ciptakan 'Tombol Mati' untuk Pengetahuan Berbahaya di AI dengan Teknik GRAM

Bagaimana Cara Kerja GRAM Secara Arsitektural

Fase Pelatihan

GRAM menambahkan modul tambahan kecil pada arsitektur Transformer standar—pada dasarnya neuron khusus di setiap lapisan—yang dimaksudkan untuk menangkap kemampuan dual-use tertentu selama pelatihan . Mekanisme kuncinya adalah 'gradient routing': selama propagasi balik, mask berbobot mengontrol parameter mana yang diperbarui untuk data mana .

• Ketika model memproses teks tujuan umum, model belajar secara normal, sementara modul tambahan juga dapat berlatih sedemikian rupa sehingga tetap kompatibel dengan model lainnya .
• Ketika model menemukan teks dari kategori dual-use seperti virologi atau keamanan siber, gradient routing mengarahkan sinyal pembelajaran ke modul tambahan yang sesuai, alih-alih membiarkan pengetahuan itu menyebar ke semua parameter model .
• Ini memusatkan pengetahuan tentang setiap domain target dalam modul khusus alih-alih menyebarkannya ke seluruh jaringan .

Fase Inferensi

Setelah pelatihan selesai, masing-masing modul dapat dihapus atau dinonaktifkan untuk mengurangi akses ke kemampuan tertentu, atau dibiarkan di tempatnya untuk penerapan yang diizinkan menggunakan pengetahuan tersebut . Karena setiap kategori dual-use dipetakan ke modulnya sendiri, satu model yang dilatih GRAM dengan empat kategori secara teoretis dapat dikonfigurasi menjadi 2⁴ = 16 profil kemampuan berbeda dengan mengaktifkan atau menonaktifkan setiap modul secara independen .

Hasil pada Model Hingga 5 Miliar Parameter

Para peneliti menguji GRAM di beberapa pengaturan dan ukuran model :

1. Dataset sintetis: Dalam lingkungan sintetis yang terkontrol, GRAM membuat model 'melupakan' topik yang dipilih, dan hasilnya dibandingkan dengan model yang dilatih seolah-olah topik tersebut telah difilter sejak awal .
2. Data dual-use realistis: Dalam pengaturan yang lebih realistis menggunakan teks web, kode, makalah ilmiah, dan domain dual-use, menghapus modul GRAM mengurangi kemampuan yang sesuai—mendekati efek penyaringan data—sambil mempertahankan kinerja tujuan umum .
3. Studi penskalaan: GRAM diuji pada ukuran model dari 50 juta hingga 5 miliar parameter . Temuan utama: GRAM melacak perilaku penyaringan data; model yang lebih besar menunjukkan pemisahan yang lebih jelas antara perilaku modul-aktif dan modul-mati; dan metode ini lebih unggul dibandingkan beberapa pendekatan 'unlearning' pasca-pelatihan dalam pengaturan yang diuji .

Konteks Kebijakan: Dari Kontrol Modular hingga Larangan Ekspor di Dunia Nyata

Penelitian GRAM hadir bersamaan dengan contoh dunia nyata berisiko tinggi dari masalah yang ingin dipecahkannya. Pada Juni 2025, pemerintahan Trump memberlakukan kontrol ekspor pada model Claude Fable 5 dan Mythos 5 milik Anthropic setelah masalah keamanan siber, memblokir akses bagi warga negara asing—di dalam atau di luar AS, termasuk karyawan Anthropic yang merupakan warga negara asing . Larangan itu berlangsung selama 18 hari sebelum Departemen Perdagangan mencabutnya setelah tinjauan keamanan nasional .

Episode ini menggambarkan keadaan kontrol akses AI saat ini: seluruh model—dengan segala kemampuannya—diperlakukan sebagai satu unit yang tidak dapat dibagi. Jika sebuah model memiliki kemampuan berbahaya, satu-satunya pilihan saat ini adalah menahan seluruh sistem. GRAM mengusulkan alternatif yang lebih terperinci: alih-alih mengunci seluruh model, sebuah sistem dapat mengizinkan atau menonaktifkan kategori pengetahuan tertentu tergantung pada konteks penerapannya .

Pertanyaan Terbuka dan Keterbatasan

Para peneliti Anthropic secara eksplisit mengidentifikasi GRAM sebagai pekerjaan awal dan menyoroti beberapa keterbatasan :

• Skala frontier belum diuji: GRAM belum terbukti bekerja pada model Claude produksi atau pada skala sistem frontier terbesar .
• Cakupan evaluasi: Eksperimen yang dilaporkan berfokus pada evaluasi terkontrol; penghapusan kemampuan hilir di dunia nyata mungkin lebih sulit diukur secara andal .
• Masalah keterikatan fundamental: Beberapa kemampuan dual-use mungkin sangat terkait dengan pengetahuan umum, sehingga sulit untuk dipisahkan secara bersih oleh metode lokalisasi atau penyaringan apa pun .
• Realisme pelabelan data: GRAM bergantung pada identifikasi dan pengarahan data dual-use yang relevan selama pelatihan, sehingga pelabelan data yang andal dalam skala besar tetap menjadi tantangan praktis yang penting .
• Temuan pendahuluan: Anthropic menyajikan GRAM sebagai arah penelitian awal, bukan sebagai mekanisme keamanan yang diterapkan—dan organisasi tersebut tidak yakin apakah GRAM akan pernah diterapkan .