Mengapa Ro Khanna menyoroti keamanan bobot model AI?

Anggota Kongres AS Ro Khanna meminta OpenAI, Anthropic, Google, Meta, dan SpaceX menyampaikan informasi yang mereka miliki tentang upaya China atau aktor lain untuk mengakses bobot model AI tanpa izin. Ia juga meminta perusahaan menjelaskan langkah keamanan siber yang digunakan untuk melindunginya.713

Kekhawatirannya: jika bobot model berhasil dicuri, pelaku dapat memperoleh parameter inti yang memungkinkan model dijalankan sebagai salinan. Menurut Khanna, pencurian semacam itu berpotensi mengikis keunggulan AI AS dan menimbulkan risiko bagi keamanan nasional.4613 Namun, permintaan informasi tersebut bukan bukti bahwa salah satu dari lima perusahaan itu telah kehilangan bobot modelnya. Laporan yang tersedia menyebut hanya sedikit kasus pencurian bobot model yang diketahui.6

Pencurian bobot model berbeda dari distilasi

Bobot model adalah parameter numerik yang dipelajari selama pelatihan dan membuat model AI bekerja. Mendapatkan bobotnya berarti memperoleh komponen inti model, sehingga pihak lain bisa menjalankan salinannya.7

Distilasi adalah proses berbeda: pengembang melatih model mereka menggunakan keluaran dari model lain. Pejabat AS menuduh sejumlah perusahaan AI China menggunakan pendekatan ini, sementara OpenAI dan Anthropic juga melaporkan aktivitas distilasi oleh perusahaan China.617 Ini berbeda dari pencurian langsung bobot model, meski tetap memicu kekhawatiran tentang kekayaan intelektual dan persaingan teknologi.

Persaingan teknologi bertemu dengan isu keselamatan

Bagi Khanna, pertanyaan tentang perlindungan model berkaitan dengan keamanan siber sekaligus siapa yang memiliki akses ke kemampuan AI paling canggih. Ia juga menyerukan kerja sama AS–China untuk menetapkan pengamanan AI, termasuk standar keselamatan dan mekanisme pemantauan.25 Sejumlah analis memperingatkan bahwa perselisihan yang meningkat terkait dugaan penyalinan dapat mempersulit dialog keselamatan antara kedua negara.18

Di sisi lain, pemerintahan Trump telah mengusulkan agar perusahaan secara sukarela menyerahkan model tertentu yang memiliki kemampuan peretasan tingkat lanjut untuk diuji pemerintah sebelum dirilis. Pemerintahan itu juga mengumumkan komitmen perusahaan teknologi untuk mengawasi model mereka sendiri. Permintaan Khanna menempatkan perhatian pada sisi lain dari pendekatan tersebut: perusahaan diminta menjelaskan apa yang mereka ketahui tentang upaya akses ilegal dan bagaimana mereka melindungi sistemnya. Informasi yang tersedia belum menunjukkan bahwa pengujian atau komitmen sukarela itu dapat mencegah pencurian bobot model.71113