Perbezaan antara mengenal pasti kelemahan dan membangunkan serangan amat penting. Keupayaan pertama boleh membantu pembangun mencari pepijat, mengesahkan risikonya dan mempercepatkan tampalan. Keupayaan kedua pula boleh mengurangkan usaha yang diperlukan untuk melancarkan pencerobohan sebenar.

“Shield of Open Source” sebagai jawapan kepada Project Glasswing

Inisiatif Shield of Open Source meletakkan AI keselamatan siber sebagai sejenis kemudahan pertahanan bersama untuk ekosistem sumber terbuka. Program ini menawarkan audit kelemahan secara percuma bagi membantu penyelenggara mengenal pasti dan menampal masalah keselamatan dalam perisian mereka. Ia turut menyediakan pengauditan kod automatik melalui ZCode serta kuota penggunaan model secara percuma untuk pembangun sumber terbuka.

Pendekatan ini berbeza daripada model akses terhad yang mengehadkan teknologi siber paling canggih kepada beberapa organisasi besar atau rakan kongsi yang telah disaring. Sebaliknya, Z.ai mahu memperkukuh perisian yang digunakan bersama oleh lebih ramai pembangun, termasuk projek yang mungkin tidak mempunyai pasukan keselamatan khusus.

Penyelidik Gabriel Wagner menggambarkan pendekatan itu sebagai “Project Glasswing dengan ciri-ciri China”. Ungkapan tersebut merujuk kepada persamaan matlamat untuk memperluas penggunaan AI bagi pertahanan siber, tetapi dengan penekanan Z.ai bahawa keterbukaan boleh menjadi aset: lebih ramai pembangun boleh memeriksa kod, mencari kelemahan dan berkongsi penambahbaikan.

Insiden Hugging Face mempercepatkan perdebatan

Salah satu pencetus praktikal kepada pendekatan ini ialah insiden melibatkan Hugging Face. Platform tersebut menggunakan GLM-5.2 milik Zhipu untuk menganalisis satu kejadian apabila ejen autonomi yang dibina dengan teknologi OpenAI berjaya menembusi infrastrukturnya ketika ujian.

Insiden itu menunjukkan dua perkara serentak. Pertama, AI yang cukup berkeupayaan boleh membantu organisasi memahami dan bertindak balas terhadap serangan yang kompleks. Kedua, sekatan penggunaan siber yang lebih ketat oleh penyedia dari Amerika Syarikat boleh membuka ruang komersial atau strategik kepada penyedia China seperti Z.ai.

Dengan kata lain, model AI yang pada asalnya dibangunkan untuk kerja pertahanan boleh menjadi semakin bernilai apabila sistem lain enggan membantu dalam tugasan yang mempunyai unsur keselamatan siber.

Mengapa model open-weight menimbulkan kebimbangan?

Model open-weight membolehkan pemberat model dimuat turun dan dijalankan di luar infrastruktur penyedia asal. Ini boleh mengurangkan kos serta keperluan kepakaran dan masa bagi menggunakan AI untuk mencari kelemahan atau mengautomasikan sebahagian proses pencerobohan.

Risikonya bersifat dwi-guna. Model yang sama boleh membantu pasukan keselamatan mengesan pepijat lebih awal, tetapi juga boleh membantu penyerang memahami dan mengeksploitasi kelemahan dengan lebih pantas. Atas sebab itu, Z.ai menangguhkan penerbitan pemberat GLM-5.3 untuk menjalankan semakan keselamatan dan memperkukuh perlindungan model, walaupun syarikat itu masih merancang pelancaran terbuka.

Kawalan berlapis, bukan sekatan menyeluruh

Cadangan Z.ai ialah kompromi berlapis. Sistem semakan risiko dan pemantauan yang lebih ketat akan digunakan untuk mengenal pasti serta menyekat permintaan siber berisiko tinggi. Pada masa sama, tugas pengaturcaraan biasa dan kerja pertahanan keselamatan akan terus dibenarkan.

Fungsi ofensif yang paling sensitif pula akan diletakkan di bawah program Cybersecurity Trusted Access. Akses kepada fungsi ini akan diberikan kepada pengguna yang telah disahkan, dan bukannya dimasukkan ke dalam akses model yang terbuka sepenuhnya.

Pendekatan ini cuba mencari titik tengah antara dua kebimbangan: jika model terlalu tertutup, manfaatnya hanya dinikmati oleh organisasi besar; jika terlalu terbuka, teknologi itu mungkin memudahkan serangan terhadap perisian yang digunakan secara meluas.

Ujian sebenar bermula selepas pemberat diterbitkan

Cabaran terbesar masih belum selesai. Kawalan pada peringkat API — seperti menyekat permintaan tertentu, memantau penggunaan dan mengesahkan identiti pengguna — lebih mudah dikuatkuasakan apabila model berjalan di pelayan Z.ai.

Namun, kawalan itu jauh lebih sukar dilaksanakan apabila pemberat model boleh dimuat turun, diubah suai atau dijalankan secara bebas oleh pihak lain. Dalam keadaan tersebut, polisi penggunaan Z.ai tidak semestinya dapat mengawal setiap salinan model.

Sebab itu, pelancaran GLM-5.3 penting bukan hanya kerana keputusan penanda arasnya. Ia menjadi ujian terhadap satu idea yang lebih besar: bolehkah AI keselamatan siber yang terbuka diperluas kepada komuniti global tanpa meningkatkan risiko serangan pada skala yang sama?

Bagi Z.ai, jawapannya ialah keterbukaan patut digunakan untuk membina pertahanan bersama, manakala kawalan perlu ditumpukan pada fungsi yang paling mudah disalahgunakan. Sama ada formula itu benar-benar berkesan akan bergantung pada pelaksanaan semakan risiko, ketegasan akses dipercayai dan apa yang berlaku selepas model tersebut berada di luar kawalan langsung pembangunnya.

Perbezaan antara mengenal pasti kelemahan dan membangunkan serangan amat penting. Keupayaan pertama boleh membantu pembangun mencari pepijat, mengesahkan risikonya dan mempercepatkan tampalan. Keupayaan kedua pula boleh mengurangkan usaha yang diperlukan untuk melancarkan pencerobohan sebenar.

“Shield of Open Source” sebagai jawapan kepada Project Glasswing

Inisiatif Shield of Open Source meletakkan AI keselamatan siber sebagai sejenis kemudahan pertahanan bersama untuk ekosistem sumber terbuka. Program ini menawarkan audit kelemahan secara percuma bagi membantu penyelenggara mengenal pasti dan menampal masalah keselamatan dalam perisian mereka. Ia turut menyediakan pengauditan kod automatik melalui ZCode serta kuota penggunaan model secara percuma untuk pembangun sumber terbuka.

Pendekatan ini berbeza daripada model akses terhad yang mengehadkan teknologi siber paling canggih kepada beberapa organisasi besar atau rakan kongsi yang telah disaring. Sebaliknya, Z.ai mahu memperkukuh perisian yang digunakan bersama oleh lebih ramai pembangun, termasuk projek yang mungkin tidak mempunyai pasukan keselamatan khusus.

Penyelidik Gabriel Wagner menggambarkan pendekatan itu sebagai “Project Glasswing dengan ciri-ciri China”. Ungkapan tersebut merujuk kepada persamaan matlamat untuk memperluas penggunaan AI bagi pertahanan siber, tetapi dengan penekanan Z.ai bahawa keterbukaan boleh menjadi aset: lebih ramai pembangun boleh memeriksa kod, mencari kelemahan dan berkongsi penambahbaikan.

Insiden Hugging Face mempercepatkan perdebatan

Salah satu pencetus praktikal kepada pendekatan ini ialah insiden melibatkan Hugging Face. Platform tersebut menggunakan GLM-5.2 milik Zhipu untuk menganalisis satu kejadian apabila ejen autonomi yang dibina dengan teknologi OpenAI berjaya menembusi infrastrukturnya ketika ujian.

Insiden itu menunjukkan dua perkara serentak. Pertama, AI yang cukup berkeupayaan boleh membantu organisasi memahami dan bertindak balas terhadap serangan yang kompleks. Kedua, sekatan penggunaan siber yang lebih ketat oleh penyedia dari Amerika Syarikat boleh membuka ruang komersial atau strategik kepada penyedia China seperti Z.ai.

Dengan kata lain, model AI yang pada asalnya dibangunkan untuk kerja pertahanan boleh menjadi semakin bernilai apabila sistem lain enggan membantu dalam tugasan yang mempunyai unsur keselamatan siber.

Mengapa model open-weight menimbulkan kebimbangan?

Model open-weight membolehkan pemberat model dimuat turun dan dijalankan di luar infrastruktur penyedia asal. Ini boleh mengurangkan kos serta keperluan kepakaran dan masa bagi menggunakan AI untuk mencari kelemahan atau mengautomasikan sebahagian proses pencerobohan.

Risikonya bersifat dwi-guna. Model yang sama boleh membantu pasukan keselamatan mengesan pepijat lebih awal, tetapi juga boleh membantu penyerang memahami dan mengeksploitasi kelemahan dengan lebih pantas. Atas sebab itu, Z.ai menangguhkan penerbitan pemberat GLM-5.3 untuk menjalankan semakan keselamatan dan memperkukuh perlindungan model, walaupun syarikat itu masih merancang pelancaran terbuka.

Kawalan berlapis, bukan sekatan menyeluruh

Cadangan Z.ai ialah kompromi berlapis. Sistem semakan risiko dan pemantauan yang lebih ketat akan digunakan untuk mengenal pasti serta menyekat permintaan siber berisiko tinggi. Pada masa sama, tugas pengaturcaraan biasa dan kerja pertahanan keselamatan akan terus dibenarkan.

Fungsi ofensif yang paling sensitif pula akan diletakkan di bawah program Cybersecurity Trusted Access. Akses kepada fungsi ini akan diberikan kepada pengguna yang telah disahkan, dan bukannya dimasukkan ke dalam akses model yang terbuka sepenuhnya.

Pendekatan ini cuba mencari titik tengah antara dua kebimbangan: jika model terlalu tertutup, manfaatnya hanya dinikmati oleh organisasi besar; jika terlalu terbuka, teknologi itu mungkin memudahkan serangan terhadap perisian yang digunakan secara meluas.

Ujian sebenar bermula selepas pemberat diterbitkan

Cabaran terbesar masih belum selesai. Kawalan pada peringkat API — seperti menyekat permintaan tertentu, memantau penggunaan dan mengesahkan identiti pengguna — lebih mudah dikuatkuasakan apabila model berjalan di pelayan Z.ai.

Namun, kawalan itu jauh lebih sukar dilaksanakan apabila pemberat model boleh dimuat turun, diubah suai atau dijalankan secara bebas oleh pihak lain. Dalam keadaan tersebut, polisi penggunaan Z.ai tidak semestinya dapat mengawal setiap salinan model.

Sebab itu, pelancaran GLM-5.3 penting bukan hanya kerana keputusan penanda arasnya. Ia menjadi ujian terhadap satu idea yang lebih besar: bolehkah AI keselamatan siber yang terbuka diperluas kepada komuniti global tanpa meningkatkan risiko serangan pada skala yang sama?

Bagi Z.ai, jawapannya ialah keterbukaan patut digunakan untuk membina pertahanan bersama, manakala kawalan perlu ditumpukan pada fungsi yang paling mudah disalahgunakan. Sama ada formula itu benar-benar berkesan akan bergantung pada pelaksanaan semakan risiko, ketegasan akses dipercayai dan apa yang berlaku selepas model tersebut berada di luar kawalan langsung pembangunnya.