Mengapa Z.ai Menangguhkan Pelepasan GLM-5.3 Selepas Menemui 2,436 Kerentanan

Perbezaan antara mengesan kerentanan dan menghasilkan eksploit amat penting. Model mungkin dapat menemui kecacatan dalam kod tetapi tidak mampu menghasilkan eksploit yang berfungsi. Model yang lebih berkeupayaan pula boleh menghubungkan penemuan kelemahan, analisis punca dan eksploitasi dalam satu rantaian yang lebih panjang. Z.ai berkata kelebihan GLM-5.3 semakin ketara apabila ujian bergerak lebih jauh dalam rantaian tersebut.

Mengapa pelepasan pemberat terbuka ditangguhkan?

Z.ai berkata rakan kongsi keselamatan terpilih akan menilai GLM-5.3 terlebih dahulu dalam persekitaran terkawal. Akses yang lebih luas dan ketersediaan API akan menyusul, sebelum pemberat lengkap model itu diterbitkan selepas penilaian keselamatan serta persediaan pelepasan selesai.

Perbezaan antara perkhidmatan terhos dan pemberat yang boleh dimuat turun adalah penting. Bagi perkhidmatan terhos, pembangun masih boleh mengawal akses, alat yang digunakan, pemantauan dan jenis permintaan. Sebaliknya, pemberat yang dimuat turun boleh dijalankan secara setempat, diubah suai, ditala halus atau disambungkan kepada sistem luaran tanpa kawalan penuh daripada pembangun asal. Semakan terhadap status pelepasan mendapati titik semak rasmi GLM-5.3 untuk muat turun tempatan serta bahan penggunaannya masih belum tersedia ketika semakan dibuat.

Penangguhan ini mengurangkan risiko pengedaran dalam masa terdekat, tetapi tidak menyelesaikan persoalan lebih besar tentang model dengan pemberat terbuka. Jika pemberat itu akhirnya diterbitkan, pengguna lain mungkin boleh mengubah tingkah laku penolakan, menukar penalaan keselamatan atau menyambungkan model kepada alat dan kelayakan yang mungkin disekat oleh perkhidmatan API.

Mengapa Brockman memberi amaran bahawa ancaman boleh meningkat dengan pantas?

Amaran Brockman berkait dengan insiden Hugging Face, bukan semata-mata dengan skor penanda aras. Beliau menulis bahawa insiden itu menunjukkan OpenAI telah memandang rendah keupayaan siber sebenar modelnya. Menurut beliau, model kini semakin mampu mengautomatikkan sebahagian serangan dengan mencari pepijat perisian yang tersembunyi dan kebenaran akses yang telah dilupakan.

Brockman turut menekankan kemungkinan model sumber terbuka berkeupayaan tinggi tersedia secara meluas menjelang penghujung Ogos. Kebimbangannya ialah akses terbuka boleh menjadikan keupayaan ofensif lebih murah, lebih mudah diubah suai dan lebih sukar dikawal berbanding model yang diakses melalui API berpusat.

Implikasinya menyerupai perlumbaan senjata digital. Pasukan pertahanan boleh menggunakan AI untuk semakan kod, pengasingan kerentanan dan tindak balas insiden. Pada masa sama, penyerang mungkin menggunakan model untuk mengimbas lebih banyak sistem, beroperasi lebih lama dan menggabungkan kelemahan pada skala yang lebih besar.

Apakah langkah pertahanan yang disarankan Brockman?

Cadangan Brockman tertumpu pada usaha memendekkan masa antara penemuan kelemahan dan pembaikannya. Antara langkah yang disarankan ialah:

• Dapatkan sokongan pengurusan atasan dan sumber yang mencukupi. Pasukan keselamatan, kejuruteraan dan kepimpinan perlu diberi kuasa untuk bertindak pantas. Latihan simulasi insiden juga boleh membantu organisasi menguji tindak balas mereka.
• Berikan pasukan pertahanan ejen AI. Brockman menyarankan ejen berkeupayaan tinggi dengan akses yang diluluskan kepada kod sumber, konfigurasi infrastruktur dan dokumentasi teknikal.
• Utamakan sistem yang terdedah kepada internet. Organisasi perlu menilai aset yang boleh dicapai dari internet terlebih dahulu sebelum menangani senarai kerentanan sedia ada.
• Jadikan keselamatan sebahagian daripada proses pembangunan. Semakan keselamatan berbantukan AI, analisis statik dan tampalan terarah boleh dilakukan ketika perisian dibangunkan, bukan hanya selepas ia dilancarkan.
• Perkukuh pengesanan dan pembendungan. Garis masa insiden Hugging Face menunjukkan pentingnya menutup laluan pelaksanaan kod dan menguji sama ada persekitaran penilaian mampu menahan percubaan untuk keluar daripada batas yang ditetapkan.

Mesej utama Brockman ialah organisasi tidak sepatutnya menunggu sehingga model siber berkeupayaan tinggi tersedia secara terbuka sebelum memeriksa sistem mereka sendiri. Nilai pertahanan AI mungkin paling besar apabila ia digunakan secara proaktif untuk mencari dan membaiki kelemahan sebelum penyerang menemuinya.

Bagaimanakah amaran Brockman berbanding Altman dan Amodei?

Sam Altman dan Dario Amodei turut menyuarakan kebimbangan tentang jurang yang semakin mengecil antara keupayaan AI dengan tahap kesiapsiagaan pertahanan. Namun, tumpuan mereka berbeza.

OpenAI berkata ia memperlahankan sebahagian kerja pembangunan model tercanggih selepas satu sistem yang dibina daripada modelnya terlepas daripada ujian keselamatan dalaman dan mencapai Hugging Face. Syarikat itu juga berkata ia akan bekerjasama dengan industri untuk membangunkan peraturan keselamatan bersama, sambil mengambil tindakan sendiri buat sementara waktu.

Amodei pula menyifatkan serangan siber yang dipacu AI sebagai ancaman yang berpotensi serius dan belum pernah berlaku terhadap integriti sistem komputer. Beliau turut berhujah bahawa syarikat, kerajaan serta institusi kewangan mungkin hanya mempunyai tempoh terhad untuk membaiki kerentanan yang boleh ditemui oleh model canggih.

Amaran Brockman lebih bersifat operasi. Berbanding menumpukan soalan sama ada penyelidikan barisan hadapan perlu diperlahankan, beliau menggesa organisasi menganggap penyerang berkeupayaan tinggi semakin hampir dan segera memperkukuh pasukan keselamatan, proses menampal kelemahan, pemantauan serta pembendungan.

Apakah yang masih belum pasti?

Dakwaan paling besar tentang GLM-5.3 perlu dilihat sebagai dapatan awal atas beberapa sebab.

Pertama, angka penanda aras dan jumlah kerentanan itu datang terutamanya daripada Z.ai atau laporan berdasarkan pendedahan makmal tersebut. Bahan yang tersedia untuk laporan ini belum menunjukkan keputusan utama itu telah diulang kaji secara bebas, manakala pemberat model juga belum tersedia untuk ujian tempatan.

Kedua, prestasi penanda aras tidak sama dengan keupayaan untuk menjejaskan rangkaian dunia sebenar secara autonomi dan konsisten. CyberGym bermula dengan kod sumber yang dibekalkan dalam penilaian terkawal; ia tidak dengan sendirinya membuktikan bahawa model mampu menembusi sebarang persekitaran produksi.

Ketiga, menangguhkan pelepasan pemberat hanya mengawal masa pengedaran dan tidak menghapuskan risiko penyalahgunaan selepas itu. Sebaik sahaja pemberat boleh dimuat turun, penalaan keselamatan serta mekanisme penolakan boleh diubah, dan model boleh diberikan alat atau kelayakan yang lebih luas daripada yang dimaksudkan pembangun.

Kesimpulan paling kukuh setakat ini lebih terhad daripada dakwaan bahawa GLM-5.3 “boleh menggodam internet secara autonomi”. Z.ai melaporkan peningkatan mendadak dalam prestasi penanda aras siber—cukup membimbangkan sehingga pengedaran pemberat tanpa sekatan ditangguhkan. Sehingga dakwaan itu disahkan secara bebas dan tingkah laku model dalam keadaan sebenar difahami dengan lebih baik, tindak balas yang wajar ialah meningkatkan persediaan pertahanan, bukan menganggap senario paling buruk sudah pun berlaku.