Ro Khanna ingin tahu apakah perusahaan AI mampu melindungi bobot model mereka

Permintaan Ro Khanna berangkat dari pertanyaan yang lebih besar daripada apakah perusahaan lain dapat meniru hasil AI Amerika: apakah komponen inti model-model canggih itu aman dari akses ilegal? Khanna meminta OpenAI, Anthropic, Google, Meta, dan xAI menjelaskan upaya akses yang mereka ketahui serta langkah keamanan siber yang digunakan untuk melindungi bobot model. Ia memandang perlindungan itu sebagai persoalan keamanan nasional, bukan sekadar urusan bisnis.3

Bobot model bukan keluaran model

Bobot model adalah parameter yang menyimpan hasil pembelajaran sebuah model—bagian inti yang membuatnya berfungsi. Jika bobot itu dicuri, pihak lain memperoleh komponen internal model, bukan hanya kesempatan untuk bertanya kepada layanan resminya.16

Distilasi berbeda: pengembang menggunakan jawaban dari model yang sudah ada sebagai bahan untuk melatih model lain. OpenAI dan Anthropic telah melaporkan praktik distilasi yang melibatkan perusahaan AI China. Namun, laporan tentang distilasi tidak dengan sendirinya membuktikan bahwa bobot model mereka dicuri; sumber yang tersedia menyebut hanya sedikit kasus pencurian bobot yang diketahui.310

Perbedaan ini penting karena pertahanan terhadap penyalahgunaan akses layanan belum tentu sama dengan perlindungan terhadap pencurian komponen model. Khanna sebelumnya juga mempertanyakan bagaimana perusahaan dapat menjaga bobot model jika ada pihak yang berusaha mencurinya.

Risiko yang dikhawatirkan

Bila aktor yang bermusuhan memperoleh bobot model, ia bisa mendapatkan akses langsung ke komponen inti model, di luar kendali yang biasanya berlaku saat orang menggunakan layanan resmi. Kekhawatiran Khanna adalah bahwa kebocoran semacam itu dapat menjadi risiko keamanan nasional. Namun, bukti yang tersedia tidak menunjukkan bahwa China telah berhasil mencuri bobot model dari perusahaan-perusahaan yang disebutkan.316

Perdebatan soal aturan sukarela atau pengawasan pemerintah

Pemerintahan Trump memilih pendekatan yang lebih mengandalkan komitmen sukarela perusahaan dan pengaturan mandiri industri.9 Dalam pembahasan terpisah tentang pengujian keselamatan, pemerintahannya menyatakan tidak akan menguji model berbobot terbuka melalui skema sukarela yang dibahas dengan pengembang.

Khanna mendorong arah yang lebih mengikat: audit wajib sebelum model dirilis, pengawasan pemerintah yang lebih kuat, serta kesepakatan keselamatan AI AS–China yang dapat diverifikasi.5 Surat-suratnya juga meminta informasi tentang perlindungan dan mekanisme pemantauan yang diperlukan untuk mencegah penyalahgunaan AI.12

Intinya, Khanna meminta perusahaan memberi bukti bahwa perlindungan yang mereka terapkan memadai—bukan menganggap komitmen industri sudah cukup. Tetapi informasi yang tersedia belum mengungkap rincian perlindungan tiap perusahaan atau memastikan apakah ada upaya penyusupan yang belum diumumkan.