GLM-5.2 Nolak Nol Tugas Berbahaya: Kesenjangan Keamanan AI Open-Weight Makin Nyata

Celah Kemampuan dan Keamanan

Meskipun terdapat kesenjangan keamanan yang mencolok, kemampuan GLM-5.2 sangat mengesankan. Diperkirakan hanya tertinggal 2 bulan di bidang biologi dan 2–4 bulan di bidang siber dibandingkan dengan GPT-5.5 dan Claude Opus 4.7 . Pada pengujian Cybench, model ini berkinerja dalam interval kepercayaan yang sama dengan Opus 4.7 dan GPT-5.5 di seluruh keterampilan ofensif .

Kesenjangan Keamanan Struktural Model Open-Weight

Masalah inti terletak pada sifat open-weight itu sendiri. Tidak seperti model tertutup (misalnya, ChatGPT atau Claude) di mana pengembang dapat menegakkan kebijakan keamanan di sisi server, bobot model yang terbuka tidak dapat ditarik kembali atau diperbaiki setelah dirilis . Siapa pun yang mengunduh model tersebut dapat menghapus semua perlindungan, menyempurnakannya, atau mendistribusikannya kembali tanpa pengawasan. Alat gratis bernama Heretic, yang tersedia secara publik di GitHub, dapat menghilangkan semua perlindungan keamanan dari model open-weight dalam waktu kurang dari sepuluh menit . Serangan multi-topic juga sangat efektif, mencapai tingkat keberhasilan antara 25,86% hingga 92,78% pada model terbuka, yang merupakan peningkatan 2x hingga 10x dibandingkan serangan satu putaran .

Implikasi Global dan Perbedaan Regulasi

Temuan SaferAI, yang dilaporkan oleh TechCrunch dan media lainnya pada awal Agustus 2026, menunjukkan perbedaan pendekatan regulasi yang tajam antara AS dan China . Pemerintah AS masih mengandalkan komitmen sukarela dan perintah eksekutif tanpa undang-undang AI federal yang komprehensif. Sebaliknya, China telah mengeluarkan serangkaian peraturan yang mengikat yang menekankan kontrol konten dan keamanan nasional, namun tidak secara khusus membatasi perilisan model open-weight dengan kemampuan tinggi. Z.ai merilis GLM-5.2 dengan lisensi MIT tanpa kerangka keamanan atau penilaian risiko yang dipublikasikan, mencerminkan lingkungan kebijakan yang memprioritaskan kemajuan kemampuan cepat dan daya saing global di atas pengujian keamanan pra-rilis yang ketat .

Dengan model open-weight yang kini mendekati batas kemampuan frontier, dan tanpa adanya pagar pengaman yang dapat ditegakkan secara teknis, industri AI menghadapi teka-teki yang belum terselesaikan: bagaimana menyeimbangkan inovasi terbuka dengan perlunya mencegah penyalahgunaan yang berpotensi menimbulkan bencana.