Insiden Hugging Face memperlihatkan kebutuhan praktis

Dorongan bagi pendekatan ini juga datang dari sebuah insiden yang melibatkan Hugging Face. Perusahaan tersebut menggunakan GLM-5.2 milik Zhipu untuk menganalisis kejadian ketika agen otonom yang dibangun dengan teknologi OpenAI menembus infrastrukturnya saat pengujian.

Kasus tersebut menunjukkan dua hal. Pertama, AI yang mampu membantu investigasi dan respons insiden semakin dibutuhkan. Kedua, pembatasan penggunaan siber oleh sejumlah penyedia AI Amerika Serikat dapat menciptakan ruang bagi model-model China seperti GLM untuk digunakan dalam pekerjaan pertahanan yang sah.

Dengan kata lain, aturan keselamatan yang terlalu ketat tidak hanya membatasi risiko. Aturan itu juga berpotensi mendorong pengguna mencari alternatif lain ketika mereka perlu menganalisis serangan atau memperbaiki kerentanan.

GLM-5.3 memperjelas dilema kemampuan ganda

Z.ai menyatakan GLM-5.3 memiliki performa kuat dalam menemukan kerentanan perangkat lunak. Dalam pengujian internal yang dibagikan perusahaan, model ini memperoleh skor 84,5 persen pada CyberGym, sedikit di atas skor 83,8 persen yang dilaporkan untuk Mythos 5, model keamanan siber Anthropic dengan akses terbatas. CyberGym menguji kemampuan model meninjau kode, menemukan celah, dan memastikan bahwa celah tersebut benar-benar dapat dibuktikan.

Namun, keunggulan itu tidak berlaku di semua aspek. Dalam mengembangkan eksploit yang berfungsi dari kerentanan yang ditemukan, GLM-5.3 dilaporkan lebih lemah dibandingkan Mythos 5. Karena angka-angka tersebut berasal dari klaim dan evaluasi perusahaan, hasilnya belum dapat dianggap sebagai bukti independen bahwa kedua model memiliki kemampuan yang setara.

Perbedaan ini penting. Menemukan bug adalah kemampuan defensif yang sangat berguna. Mengubah bug menjadi serangan yang dapat digunakan membutuhkan kemampuan ofensif tambahan—dan justru bagian inilah yang paling sensitif dari model keamanan siber.

Mengapa bobot terbuka menimbulkan kekhawatiran?

Model open weight memungkinkan bobot terlatih diunduh dan dijalankan di perangkat atau infrastruktur milik pengguna. Keuntungannya adalah biaya yang lebih rendah, fleksibilitas lebih besar, dan kesempatan bagi pengembang untuk menyesuaikan model tanpa bergantung sepenuhnya pada API perusahaan.

Namun, keterbukaan juga memiliki sisi berisiko. Bobot yang dapat diunduh berpotensi menurunkan biaya, keahlian, dan waktu yang dibutuhkan penyerang untuk menemukan kerentanan atau mengotomatisasi bagian tertentu dari intrusi. Setelah model berjalan secara mandiri, pembuatnya akan lebih sulit memantau setiap permintaan atau menghentikan penggunaan yang berbahaya.

Karena alasan itu, Z.ai menunda penerbitan bobot GLM-5.3 untuk menjalani peninjauan keselamatan dan penguatan keamanan, meskipun perusahaan tetap berencana merilis model tersebut secara terbuka.

Kompromi Z.ai: terbuka untuk pertahanan, terbatas untuk serangan

Z.ai mengusulkan pendekatan kontrol yang selektif dan berlapis. Sistem peninjauan risiko serta pemantauan yang lebih ketat akan digunakan untuk memblokir permintaan siber berisiko tinggi, sementara tugas pemrograman biasa dan pekerjaan keamanan defensif tetap diizinkan.

Fungsi ofensif yang paling sensitif akan ditempatkan di bawah program Cybersecurity Trusted Access. Artinya, kemampuan tersebut hanya diberikan kepada pengguna yang telah diverifikasi, bukan dimasukkan ke dalam akses model yang sepenuhnya bebas.

Pendekatan ini berusaha menghindari dua pilihan ekstrem: menutup seluruh kemampuan siber sehingga manfaat pertahanannya sulit diakses, atau membuka semua fungsi tanpa membedakan audit keamanan dari pengembangan serangan.

Pertanyaan yang belum terjawab

Efektivitas strategi ini akan sangat bergantung pada cara bobot model akhirnya dirilis dan digunakan. Pemblokiran permintaan di tingkat API serta verifikasi pengguna dapat diterapkan pada layanan yang dihosting Z.ai. Akan tetapi, keduanya jauh lebih sulit ditegakkan ketika salinan bobot open weight dijalankan secara independen oleh pihak lain.

Di sinilah arti strategis GLM-5.3 menjadi lebih besar daripada sekadar skor benchmark. Z.ai sedang menguji apakah keterbukaan dapat menjadi infrastruktur pertahanan kolektif, sekaligus apakah kontrol terarah mampu menahan penyalahgunaan pada kemampuan yang paling berbahaya.

Jika berhasil, model ini dapat memperkuat keamanan proyek open source di banyak tempat. Jika gagal, peluncurannya juga dapat menjadi contoh bahwa kontrol berbasis layanan tidak selalu mengikuti model setelah bobotnya beredar bebas.

Insiden Hugging Face memperlihatkan kebutuhan praktis

Dorongan bagi pendekatan ini juga datang dari sebuah insiden yang melibatkan Hugging Face. Perusahaan tersebut menggunakan GLM-5.2 milik Zhipu untuk menganalisis kejadian ketika agen otonom yang dibangun dengan teknologi OpenAI menembus infrastrukturnya saat pengujian.

Kasus tersebut menunjukkan dua hal. Pertama, AI yang mampu membantu investigasi dan respons insiden semakin dibutuhkan. Kedua, pembatasan penggunaan siber oleh sejumlah penyedia AI Amerika Serikat dapat menciptakan ruang bagi model-model China seperti GLM untuk digunakan dalam pekerjaan pertahanan yang sah.

Dengan kata lain, aturan keselamatan yang terlalu ketat tidak hanya membatasi risiko. Aturan itu juga berpotensi mendorong pengguna mencari alternatif lain ketika mereka perlu menganalisis serangan atau memperbaiki kerentanan.

GLM-5.3 memperjelas dilema kemampuan ganda

Z.ai menyatakan GLM-5.3 memiliki performa kuat dalam menemukan kerentanan perangkat lunak. Dalam pengujian internal yang dibagikan perusahaan, model ini memperoleh skor 84,5 persen pada CyberGym, sedikit di atas skor 83,8 persen yang dilaporkan untuk Mythos 5, model keamanan siber Anthropic dengan akses terbatas. CyberGym menguji kemampuan model meninjau kode, menemukan celah, dan memastikan bahwa celah tersebut benar-benar dapat dibuktikan.

Namun, keunggulan itu tidak berlaku di semua aspek. Dalam mengembangkan eksploit yang berfungsi dari kerentanan yang ditemukan, GLM-5.3 dilaporkan lebih lemah dibandingkan Mythos 5. Karena angka-angka tersebut berasal dari klaim dan evaluasi perusahaan, hasilnya belum dapat dianggap sebagai bukti independen bahwa kedua model memiliki kemampuan yang setara.

Perbedaan ini penting. Menemukan bug adalah kemampuan defensif yang sangat berguna. Mengubah bug menjadi serangan yang dapat digunakan membutuhkan kemampuan ofensif tambahan—dan justru bagian inilah yang paling sensitif dari model keamanan siber.

Mengapa bobot terbuka menimbulkan kekhawatiran?

Model open weight memungkinkan bobot terlatih diunduh dan dijalankan di perangkat atau infrastruktur milik pengguna. Keuntungannya adalah biaya yang lebih rendah, fleksibilitas lebih besar, dan kesempatan bagi pengembang untuk menyesuaikan model tanpa bergantung sepenuhnya pada API perusahaan.

Namun, keterbukaan juga memiliki sisi berisiko. Bobot yang dapat diunduh berpotensi menurunkan biaya, keahlian, dan waktu yang dibutuhkan penyerang untuk menemukan kerentanan atau mengotomatisasi bagian tertentu dari intrusi. Setelah model berjalan secara mandiri, pembuatnya akan lebih sulit memantau setiap permintaan atau menghentikan penggunaan yang berbahaya.

Karena alasan itu, Z.ai menunda penerbitan bobot GLM-5.3 untuk menjalani peninjauan keselamatan dan penguatan keamanan, meskipun perusahaan tetap berencana merilis model tersebut secara terbuka.

Kompromi Z.ai: terbuka untuk pertahanan, terbatas untuk serangan

Z.ai mengusulkan pendekatan kontrol yang selektif dan berlapis. Sistem peninjauan risiko serta pemantauan yang lebih ketat akan digunakan untuk memblokir permintaan siber berisiko tinggi, sementara tugas pemrograman biasa dan pekerjaan keamanan defensif tetap diizinkan.

Fungsi ofensif yang paling sensitif akan ditempatkan di bawah program Cybersecurity Trusted Access. Artinya, kemampuan tersebut hanya diberikan kepada pengguna yang telah diverifikasi, bukan dimasukkan ke dalam akses model yang sepenuhnya bebas.

Pendekatan ini berusaha menghindari dua pilihan ekstrem: menutup seluruh kemampuan siber sehingga manfaat pertahanannya sulit diakses, atau membuka semua fungsi tanpa membedakan audit keamanan dari pengembangan serangan.

Pertanyaan yang belum terjawab

Efektivitas strategi ini akan sangat bergantung pada cara bobot model akhirnya dirilis dan digunakan. Pemblokiran permintaan di tingkat API serta verifikasi pengguna dapat diterapkan pada layanan yang dihosting Z.ai. Akan tetapi, keduanya jauh lebih sulit ditegakkan ketika salinan bobot open weight dijalankan secara independen oleh pihak lain.

Di sinilah arti strategis GLM-5.3 menjadi lebih besar daripada sekadar skor benchmark. Z.ai sedang menguji apakah keterbukaan dapat menjadi infrastruktur pertahanan kolektif, sekaligus apakah kontrol terarah mampu menahan penyalahgunaan pada kemampuan yang paling berbahaya.

Jika berhasil, model ini dapat memperkuat keamanan proyek open source di banyak tempat. Jika gagal, peluncurannya juga dapat menjadi contoh bahwa kontrol berbasis layanan tidak selalu mengikuti model setelah bobotnya beredar bebas.