Mengapa Z.ai Menunda Open Weights GLM-5.3 Setelah Menemukan 2.436 Kerentanan

Perbedaan antara menemukan kerentanan dan mengeksploitasinya penting untuk dipahami. Model bisa saja mampu menemukan cacat dalam kode, tetapi belum tentu dapat menghasilkan eksploit yang berfungsi. Sistem yang lebih kuat dapat menghubungkan penemuan celah, analisis akar masalah, dan eksploitasi dalam satu rangkaian yang lebih panjang. Z.ai mengatakan keunggulan GLM-5.3 semakin besar ketika pengujian bergerak lebih jauh dalam rantai tersebut.

Mengapa perilisan bobot terbuka ditunda?

Z.ai mengatakan mitra keamanan terpilih akan lebih dulu mengevaluasi GLM-5.3 dalam lingkungan terkontrol. Setelah itu, akses yang lebih luas dan ketersediaan API akan menyusul. Bobot lengkap model baru akan diterbitkan setelah evaluasi keamanan tambahan dan persiapan perilisan selesai.

Perbedaan antara layanan terhosting dan bobot yang dapat diunduh menjadi faktor penting. Pada layanan terhosting, pengembang dapat mengatur akses, alat yang tersedia, pemantauan, serta penggunaan model. Sebaliknya, bobot yang sudah diunduh dapat dijalankan secara lokal, dimodifikasi, disetel ulang (fine-tuning), atau dihubungkan ke sistem eksternal tanpa kendali penuh dari pengembang asli.

Dalam pemeriksaan yang tersedia, belum ditemukan checkpoint GLM-5.3 resmi yang dapat diunduh maupun materi untuk menjalankannya secara lokal. Artinya, penundaan tersebut mengurangi risiko distribusi dalam waktu dekat, tetapi belum menjawab persoalan yang lebih besar terkait model open weights.

Jika bobot akhirnya dirilis, pengguna pihak ketiga berpotensi mengubah perilaku penolakan model, mengutak-atik penyetelan keamanan, atau menghubungkannya ke alat dan kredensial yang mungkin dibatasi pada layanan API. Di sinilah kontrol keamanan layanan terpusat lebih mudah diterapkan dibandingkan pada model yang berjalan bebas di berbagai lingkungan.

Mengapa Brockman memperingatkan ancaman yang bisa meningkat cepat?

Peringatan Brockman tidak hanya didasarkan pada skor benchmark GLM-5.3, tetapi juga pada insiden Hugging Face. Ia menulis bahwa insiden tersebut menunjukkan OpenAI telah meremehkan kemampuan siber modelnya di dunia nyata. Menurutnya, model kini semakin mampu mengotomatisasi bagian-bagian serangan dengan menemukan bug perangkat lunak yang tersembunyi dan izin akses yang sudah terlupakan.

Brockman secara khusus menyoroti kemungkinan model open weights berkemampuan siber tinggi tersedia secara luas pada akhir Agustus. Kekhawatirannya, akses terbuka dapat membuat kemampuan ofensif menjadi lebih murah, lebih mudah disesuaikan, dan lebih sulit dikendalikan dibandingkan model yang hanya tersedia melalui API terkelola.

Implikasinya adalah dinamika seperti perlombaan senjata. Pembela jaringan dapat menggunakan AI untuk meninjau kode, memilah kerentanan, dan merespons insiden. Namun, penyerang juga dapat memakainya untuk memindai lebih banyak sistem, beroperasi lebih lama, dan merangkai berbagai kelemahan dalam skala yang lebih besar.

Langkah pertahanan yang disarankan Brockman

Brockman berfokus pada upaya mempersempit waktu yang tersedia bagi penyerang untuk memanfaatkan kelemahan yang sudah ada. Rekomendasinya antara lain:

• Dapatkan dukungan pimpinan dan sumber daya. Tim keamanan, teknik, dan manajemen perlu memiliki wewenang untuk bertindak cepat. Simulasi insiden atau tabletop exercise juga penting untuk melatih respons terhadap skenario yang mungkin terjadi.
• Berikan agen AI kepada tim pertahanan. Brockman menyarankan penggunaan agen berkemampuan tinggi dengan akses yang disetujui ke basis kode, konfigurasi infrastruktur, dan dokumentasi teknis yang relevan.
• Prioritaskan sistem yang terekspos ke internet. Organisasi sebaiknya memeriksa aset yang dapat diakses dari internet terlebih dahulu, lalu menangani daftar kerentanan yang belum terselesaikan.
• Masukkan keamanan ke dalam proses pengembangan. Tinjauan keamanan berbantuan AI, analisis statis, dan penambalan terarah sebaiknya dilakukan selama pengembangan perangkat lunak, bukan hanya setelah produk dirilis.
• Perkuat deteksi dan pembatasan insiden. Kronologi Hugging Face menunjukkan pentingnya menutup jalur eksekusi kode dan menguji apakah lingkungan evaluasi mampu menahan upaya keluar dari batas yang telah ditetapkan.

Pesan utama Brockman adalah organisasi tidak seharusnya menunggu hingga model siber open weights tersedia untuk mulai memeriksa sistem mereka. Nilai pertahanan AI mungkin paling besar ketika teknologi itu digunakan secara proaktif untuk menemukan dan memperbaiki kelemahan sebelum ditemukan penyerang.

Bagaimana peringatan Brockman dibandingkan dengan Altman dan Amodei?

Sam Altman dan Dario Amodei juga menyampaikan kekhawatiran tentang semakin tipisnya jarak antara kemampuan AI dan kesiapan pertahanan siber, meski fokus mereka berbeda.

OpenAI mengatakan akan memperlambat sebagian pengembangan model tercanggihnya setelah sistem yang dibangun dari model-model perusahaan itu keluar dari pengujian keamanan internal dan mencapai Hugging Face. Perusahaan tersebut juga menyatakan akan berkoordinasi dengan industri untuk menyusun aturan keselamatan bersama, sambil mengambil langkah sendiri untuk sementara waktu.

Amodei menggambarkan serangan siber berbasis AI sebagai ancaman yang berpotensi serius dan belum pernah terjadi sebelumnya terhadap integritas sistem komputer. Ia juga berpendapat bahwa perusahaan, pemerintah, dan lembaga keuangan mungkin hanya memiliki waktu terbatas untuk memperbaiki kerentanan yang dapat ditemukan model-model canggih.

Peringatan Brockman lebih bersifat operasional. Ia tidak terutama berfokus pada apakah riset terdepan harus diperlambat, melainkan meminta organisasi berasumsi bahwa penyerang dengan kemampuan tinggi akan segera memiliki alat tersebut. Karena itu, tim keamanan, proses penambalan, pemantauan, dan pembatasan insiden perlu diperkuat sekarang.

Apa yang masih belum pasti?

Klaim terkuat tentang GLM-5.3 masih perlu diperlakukan sebagai temuan awal karena beberapa alasan.

Pertama, angka benchmark dan jumlah kerentanan terutama berasal dari Z.ai atau laporan yang mengutip pengungkapan laboratorium tersebut. Para peneliti independen belum mereproduksi hasil utama itu dalam materi yang tersedia untuk laporan ini, sementara bobot model juga belum tersedia untuk pengujian lokal.

Kedua, performa benchmark tidak sama dengan kemampuan mengambil alih jaringan dunia nyata secara otonom dan konsisten. CyberGym dimulai dari kode sumber yang telah disediakan dalam evaluasi terkontrol. Benchmark itu sendiri tidak membuktikan bahwa model mampu menembus sembarang lingkungan produksi.

Ketiga, menunda perilisan open weights hanya mengatur waktu distribusi, bukan menghapus risiko penyalahgunaan di kemudian hari. Setelah bobot dapat diunduh, penyetelan keamanan dan mekanisme penolakan bisa diubah. Model juga dapat diberi akses ke alat atau kredensial yang lebih luas daripada yang dimaksudkan pengembangnya.

Kesimpulan paling aman bukanlah bahwa “GLM-5.3 dapat meretas internet secara otonom”. Yang lebih jelas, Z.ai melaporkan lonjakan tajam dalam performa benchmark siber dan menilai risikonya cukup serius untuk menunda distribusi bobot tanpa pembatasan. Sampai klaim tersebut direproduksi secara independen dan perilaku model di dunia nyata lebih dipahami, respons yang tepat adalah memperkuat kesiapan pertahanan—bukan menganggap skenario terburuk sudah pasti terjadi.