Z.ai mahu ubah strategi keselamatan siber China dengan pertahanan terbuka, serangan terkawal

GLM-5.3 pula dilaporkan membawa peningkatan besar dalam tugas kejuruteraan perisian dan keselamatan siber. Dokumentasi Z.ai menyatakan model itu mencapai prestasi terbaiknya setakat ini dalam penemuan kerentanan pada penanda aras CyberGym, manakala latihan pasca-modelnya turut meningkatkan keupayaan mencari kelemahan dan menganalisis rantaian eksploitasi.

Namun, keupayaan sedemikian mempunyai sifat dwi-guna. Teknik yang membantu penyelidik mencari dan membaiki kelemahan juga boleh digunakan oleh pihak yang mahu membangunkan serangan.

Mengapa akses terbuka tidak bermakna semuanya dibuka

Kebimbangan utama terhadap model dengan pemberat terbuka ialah ia mungkin mengurangkan tahap kemahiran yang diperlukan untuk melancarkan serangan siber. Z.ai berkata ia akan bertindak balas melalui semakan risiko berlapis dan pengawasan yang lebih ketat.

Rangka kerja yang dicadangkan membezakan antara:

• kerja pembangunan biasa, seperti menulis dan menyelenggara kod;
• tugas pertahanan, seperti mengesan kelemahan dan mengesahkan risiko; dan
• permintaan berisiko tinggi, yang boleh memudahkan eksploitasi atau serangan.

Permintaan dalam kategori berbahaya akan disekat, tetapi pembangunan perisian rutin dan kerja keselamatan defensif tidak sepatutnya terhalang oleh sekatan menyeluruh. Dengan cara ini, Z.ai cuba mengekalkan manfaat sumber terbuka tanpa melepaskan semua keupayaan siber kepada sesiapa sahaja.

Fungsi ofensif paling sensitif memerlukan pengesahan

Keupayaan ofensif yang paling berisiko akan diletakkan di bawah Cybersecurity Trusted Access. Hanya pengguna yang disahkan dijangka mendapat akses kepada fungsi tersebut, sekali gus mewujudkan lapisan kawalan walaupun alat pertahanan dan akses komuniti diperluaskan.

Model GLM-5.3 juga dirancang untuk melalui pelancaran secara berperingkat. Z.ai menyatakan rakan keselamatan terpilih akan menilai model dalam persekitaran terkawal sebelum akses yang lebih luas dan API diperkenalkan.

Adakah ini versi China untuk Project Glasswing?

Perbandingan dengan Project Glasswing Anthropic timbul kerana kedua-dua inisiatif menggunakan AI berkeupayaan tinggi untuk memperkukuh keselamatan perisian sebelum kelemahan dieksploitasi oleh penyerang. Project Glasswing menggunakan akses awal yang terhad kepada model frontier untuk membantu melindungi perisian kritikal.

Bagaimanapun, perbandingan itu ialah tafsiran penyelidik, bukannya pengumuman bahawa kedua-dua program tersebut adalah sama. Z.ai kelihatan berkongsi cita-cita mengutamakan pertahanan, tetapi mengetengahkan model pengedaran yang lebih berasaskan sumber terbuka: ketelusan, audit komuniti dan akses pertahanan yang meluas dianggap sebagai aset keselamatan, bukan semata-mata liabiliti.

Kesan sebenar masih perlu dibuktikan

Pelancaran GLM-5.3 dan Shield of Open Source belum membuktikan bahawa pendekatan keselamatan siber China secara keseluruhan sudah berubah. Buat masa ini, ia lebih tepat dilihat sebagai hala tuju dan dasar yang diumumkan oleh sebuah syarikat China.

Kredibilitinya akan bergantung pada beberapa perkara: sama ada kawalan akses terus berkesan selepas ketersediaan model diperluaskan, sama ada audit membawa kepada pendedahan bertanggungjawab dan pembaikan kelemahan, serta sama ada ujian bebas mengesahkan sempadan keselamatan yang didakwa Z.ai.

Jika kawalan itu berjaya, Z.ai mungkin membantu membentuk idea bahawa keterbukaan tidak semestinya bertentangan dengan keselamatan — asalkan akses kepada fungsi paling berbahaya kekal ditapis dan diawasi.