Gaussian Probing: Cara Baharu Audit AI Tanpa Melanggar Undang-undang

Penyelidik dari MIT, Universiti Boston, dan pertubuhan keselamatan kanak-kanak Thorn telah membangunkan teknik dipanggil prob Gaussian (Gaussian probing) yang boleh menentukan sama ada model AI generatif telah diperhalusi (fine-tuned) untuk menghasilkan bahan penderaan seksual kanak-kanak (CSAM)—tanpa perlu menjana satu gambar pun . Kaedah ini, yang dibentangkan sebagai kertas kerja sorotan (spotlight paper) di bengkel "Trustworthy AI for Good" semasa Persidangan Antarabangsa mengenai Pembelajaran Mesin (ICML), merupakan satu kejayaan dalam audit keselamatan AI untuk kandungan yang sangat berbahaya sehingga ujian pun boleh menjadi haram .

Apa itu prob Gaussian?

Prob Gaussian ialah kaedah audit bukan generatif yang mengesan sama ada model AI generatif telah dikhususkan melalui penalaan halus (fine-tuning) untuk menghasilkan CSAM . Teknik ini tertumpu khusus pada Penyesuaian Peringkat Rendah (LoRA), satu kaedah penalaan halus yang popular dan cekap yang membolehkan pengguna mengkhususkan model asas seperti Stable Diffusion untuk tugas tertentu tanpa melatih semula keseluruhan model . Aktor jahat telah mengeksploitasi adaptor LoRA untuk mencipta varian model yang mampu menghasilkan CSAM berkualiti tinggi .

Daripada bertanya apa yang model teradaptasi itu hasilkan sebagai imej keluaran, prob Gaussian bertanya bagaimana adaptor itu mengubah profil respons dalaman model pada ruang keadaan Gaussian asli proses resapan (diffusion process) .

Bagaimana ia berfungsi?

Kaedah ini berfungsi dengan mengukur bagaimana adaptor LoRA mengganggu secara fungsional perwakilan dalaman model. Secara khususnya, ia memasukkan ensembel rujukan keadaan terpendam (latent states) Gaussian rawak melalui proses resapan model dan memerhatikan bagaimana pengaktifan tersembunyi (hidden activations) berubah .

Objek matematik terasnya ialah "fungsian prob" yang mengira purata perwakilan tersembunyi merentasi langkah masa resapan untuk satu set input hingar Gaussian, kemudian menghimpunkan ini menjadi vektor ciri yang mencirikan kesan adaptor . Pengelas kemudian dilatih pada vektor ciri ini untuk membezakan adaptor berbahaya (khusus CSAM) daripada yang tidak berbahaya.

Seperti yang dijelaskan oleh penulis utama Vinith Suriyakumar, seorang pelajar siswazah MIT: "Sebelum ini, kami tiada cara untuk mengukur perkara ini. Ia adalah titik buta besar yang dimanfaatkan oleh sesetengah pihak" .

Ketepatan: 100% dalam ujian

Dalam ujian, prosedur prob Gaussian mengenal pasti variasi model yang telah dikhususkan untuk menjana CSAM dengan ketepatan 100 peratus . Penyelidik mendapati bahawa prob Gaussian boleh membezakan dengan boleh dipercayai antara pengkhususan yang tidak berbahaya dan yang berbahaya, tidak seperti kaedah garis dasar berat mentah (raw-weight baseline) yang mungkin bergantung pada artifak latihan sampingan dan bukannya isyarat kandungan yang bermakna .

Teknik ini juga terbukti berkesan di bawah kekangan realistik, menunjukkan ia boleh digunakan pada skala di platform seperti Hugging Face atau Civitai di mana pengguna memuat naik adaptor LoRA .

Penyelidikan ini adalah kerjasama antara pelajar siswazah MIT Vinith Suriyakumar dan profesor bersekutu Ashia Wilson dan Marzyeh Ghassemi, bersama penyelidik dari Thorn, termasuk Dr. Rebecca Portnoff .

Paradoks undang-undang yang diselesaikan oleh prob Gaussian

Audit keselamatan AI standard bergantung pada proses yang mudah: berikan model input berbahaya dan periksa keluarannya. Untuk CSAM, ini mustahil dari segi undang-undang. Adalah haram di Amerika Syarikat untuk menjana kandungan sedemikian, tanpa mengira niat .

Prob Gaussian menyelesaikan paradoks ini dengan menilai keupayaan model untuk menghasilkan CSAM berdasarkan semata-mata pada pengaktifan dalaman, tanpa perlu menjana imej keluaran. Seperti yang dinyatakan dalam pengumuman MIT, "Teknik mereka meneliti bagaimana bahagian dalam model berubah apabila ia ditala halus dengan CSAM—tanpa perlu melihat sebarang imej" .

Kaedah ini juga mengelakkan masalah etika mendedahkan penyelidik keselamatan kepada bahan traumatik, kerana ia tidak memerlukan sebarang imej CSAM untuk dilihat semasa ujian .

Krisis CSAM janakuasa AI yang semakin meningkat

Teknik ini tiba pada saat skala CSAM janakuasa AI meletup. Statistik utama daripada sumber berwibawa termasuk:

• NCMEC (Pusat Kebangsaan untuk Kanak-kanak Hilang dan Dieksploitasi) menerima lebih 1.5 juta laporan CSAM janakuasa AI pada 2025, peningkatan dramatik daripada 67,000 untuk keseluruhan 2024 . Ini mewakili peningkatan kira-kira 22 kali ganda tahun ke tahun.
• Dalam separuh pertama 2025 sahaja, NCMEC menerima 485,000 laporan CSAM berkaitan AI, dengan kira-kira 35 syarikat teknologi kini melaporkan bahan tersebut .
• Yayasan Pemantau Internet (IWF) menilai 8,029 imej dan video janakuasa AI sebagai menunjukkan penderaan seksual kanak-kanak realistik pada 2025 . Walaupun CSAM AI masih mewakili sebahagian kecil daripada jumlah keseluruhan bahan yang dilaporkan, ia digambarkan sebagai "meluas dan semakin meningkat" dari segi skala, kecanggihan dan kebolehcapaian .
• Parlimen Eropah menyatakan bahawa 2025 menyaksikan "peningkatan besar" dalam CSAM janakuasa AI, dengan model teks-ke-imej sumber terbuka menjadi vektor utama .
• NCMEC melaporkan peningkatan 1,325% dalam laporan yang melibatkan AI generatif antara 2023 dan 2024 sahaja .

Kandungan video AI gerak penuh realistik menjadi perkara biasa. Pada 2025, IWF mengenal pasti 3,443 video penderaan seksual kanak-kanak janakuasa AI, dengan 65% dikategorikan di bawah Kategori A—bahan paling serius di bawah perundangan UK .

Apa maksud ini untuk keselamatan AI dan perlindungan kanak-kanak

Prob Gaussian mengisi jurang kritikal dalam kit alat keselamatan AI. Pertahanan semasa terhadap CSAM janakuasa AI bergantung terutamanya pada penapisan input, penapisan output, dan saringan data latihan . Tetapi seperti yang ditunjukkan oleh penyelidikan, "memperkenalkan semula konsep adalah mungkin melalui penalaan halus walaupun penapisan sempurna," bermakna kaedah penapisan semasa menawarkan "perlindungan terhad kepada model berat tertutup dan tiada perlindungan kepada model berat terbuka" .

Dengan membolehkan platform mengesan model terlaras halus yang berbahaya sebelum ia diedarkan secara meluas, prob Gaussian boleh membolehkan platform seperti Hugging Face dan Civitai menyaring adaptor LoRA yang dimuat naik tanpa perlu melakukan penjanaan kandungan haram .

Buat masa ini, teknik ini menyediakan alternatif bukan generatif yang berskala untuk menilai keselamatan model dalam domain berisiko tinggi di mana penjanaan dihadkan oleh undang-undang—satu alat yang amat diperlukan dalam bidang ini ketika krisis CSAM janakuasa AI semakin memuncak.