Khanna mahu syarikat AI jelaskan risiko keselamatan model

Ro Khanna mahu mengetahui sama ada syarikat AI terkemuka di AS dapat menghalang model mereka daripada jatuh ke tangan pihak bermusuhan. Permintaannya supaya syarikat melaporkan cubaan akses haram serta menerangkan perlindungan keselamatan siber menunjukkan bahawa keselamatan model bukan hanya urusan teknikal syarikat—ia juga berkait dengan keselamatan negara.510

Bobot model bukan sama dengan hasil tiruan

Bobot model ialah parameter yang dipelajari dan membentuk cara model AI berfungsi. Jika pihak luar mencuri bobot itu, mereka mendapat komponen teras model tersebut. Sebaliknya, penyulingan model berlaku apabila pembangun menggunakan jawapan daripada model sedia ada untuk melatih model lain. Kaedah itu boleh membantu menghasilkan model yang meniru sebahagian keupayaan asal, tetapi tidak dengan sendirinya memberikan bobot asal.

OpenAI dan Anthropic pernah melaporkan kegiatan penyulingan yang melibatkan syarikat AI China. Namun, laporan yang tersedia menyebut hanya sedikit kes kecurian bobot yang diketahui. Oleh itu, laporan penyulingan bukan bukti bahawa bobot model syarikat berkenaan telah dicuri.310

Mengapa isu ini menjadi kebimbangan keselamatan negara?

Kebimbangan Khanna ialah pihak bermusuhan yang memperoleh bobot sebenar mungkin dapat menggunakan model itu secara langsung, di luar perkhidmatan yang dikawal oleh pembangunnya. Dalam perbahasan terdahulu, beliau turut membezakan penyulingan melalui pertanyaan kepada model daripada risiko bobot model tidak dapat dilindungi. Setakat bukti yang tersedia, tidak dapat dipastikan bahawa China telah berjaya mencuri bobot mana-mana syarikat yang disebut.3

Permintaan untuk mengetahui cubaan pencerobohan dan langkah perlindungan juga menjurus kepada persoalan akauntabiliti: apakah kawalan yang benar-benar digunakan syarikat, dan sejauh mana ia mampu mencegah akses tanpa kebenaran? Maklumat khusus tentang perlindungan syarikat atau cubaan pencerobohan yang belum didedahkan tidak dapat dipastikan daripada bukti yang tersedia.

Perbezaan pendekatan terhadap kawal selia AI

Pentadbiran Trump menekankan langkah keselamatan sukarela yang digerakkan oleh industri, termasuk kawalan dalaman dan audit luar. Pentadbiran itu juga menyatakan bahawa model dengan bobot terbuka tidak akan menjalani ujian keselamatan dalam aturan sukarela berkenaan.9

Khanna pula menggesa pengawasan kerajaan yang lebih kukuh, audit yang diwajibkan dan perjanjian keselamatan AI AS–China yang mengikat serta boleh disahkan. Usul dan surat beliau mencerminkan pendirian bahawa langkah syarikat sahaja perlu dinilai—bukan dianggap memadai tanpa bukti.12

Perbezaan utamanya ialah sama ada perlindungan AI patut bergantung terutamanya pada komitmen sukarela syarikat, atau disokong oleh peraturan kerajaan dan mekanisme pengesahan yang boleh dikuatkuasakan.