Kecurian model AI: Ro Khanna minta lima syarikat jelaskan ancaman dan pertahanan siber

Wakil AS Ro Khanna meminta OpenAI, Anthropic, Google, Meta dan SpaceX mendedahkan apa yang mereka tahu tentang cubaan China atau aktor bermusuhan lain untuk mengakses pemberat model AI mereka tanpa kebenaran. Beliau turut meminta setiap syarikat menerangkan langkah keselamatan siber yang digunakan untuk melindungi model tersebut.713

Kebimbangannya: jika pemberat model dicuri, pihak luar mungkin boleh mendapatkan model itu secara langsung. Khanna memberi amaran bahawa keadaan itu boleh menghakis kelebihan AI AS dan menimbulkan risiko keselamatan negara. Namun, surat tersebut meminta maklumat tentang cubaan yang diketahui — bukan bukti bahawa mana-mana daripada lima syarikat itu sudah kehilangan pemberat model mereka.1114

Kecurian pemberat bukan perkara yang sama dengan penyulingan

Pemberat model ialah parameter dalaman yang terbentuk semasa latihan dan membantu menentukan cara model AI berfungsi. Mendapatkan pemberat itu secara langsung berbeza daripada penyulingan (distillation): dalam proses tersebut, pembangun melatih model lain menggunakan output model sedia ada.

Pegawai AS menuduh firma AI China menggunakan penyulingan, dan OpenAI serta Anthropic pernah melaporkan kegiatan seumpamanya. Tetapi laporan menyebut hanya sedikit kes yang diketahui melibatkan pencurian pemberat model sebenar.413 Maka, permintaan Khanna menumpukan kemungkinan ancaman yang lebih langsung: akses tanpa kebenaran kepada model itu sendiri.

Persaingan AI dan keselamatan antarabangsa

Bagi Khanna, melindungi model AI termaju bukan sekadar isu keselamatan syarikat. Ia turut berkait dengan penyebaran keupayaan AI yang berkuasa dan kedudukan AS dalam persaingan teknologi. Beliau juga menyeru AS dan China bekerjasama menetapkan langkah keselamatan AI. Namun, penganalisis memberi amaran bahawa pertikaian yang semakin tegang berhubung dakwaan penyalinan teknologi boleh menyukarkan kerjasama itu.125

Perbezaan pendekatan tentang peranan kerajaan

Pentadbiran Trump mencadangkan supaya model terpilih yang mempunyai keupayaan siber canggih diserahkan secara sukarela untuk ujian keselamatan kerajaan sebelum dikeluarkan kepada umum. Sementara itu, pertanyaan Khanna meminta syarikat menerangkan sendiri kawalan dan pertahanan siber yang mereka gunakan.71113

Maklumat yang dilaporkan setakat ini tidak membuktikan bahawa ujian sukarela itu akan menghalang kecurian pemberat model — atau bahawa pemberat milik mana-mana lima syarikat berkenaan sudah dicuri. Isu yang dibangkitkan Khanna ialah sama ada cubaan sedemikian pernah berlaku dan sejauh mana syarikat bersedia menghadapinya.