The Information melaporkan bahawa DeepSeek dan Moonshot AI banyak bergantung pada output GPT-6 Astra milik OpenAI untuk melatih model baharu mereka. Reuters memetik laporan itu yang bersandarkan maklumat daripada individu yang mengetahui perkara tersebut secara langsung. Syarikat-syarikat berkenaan tidak segera memberikan komen menurut laporan susulan, dan dakwaan itu belum disahkan secara bebas.
1
3
Model yang dinamakan ialah Kimi K3.1 Pro keluaran Moonshot dan V4.1-Flash 1017 keluaran DeepSeek. Isu utamanya bukan sama ada mereka mendapat akses kepada pemberat model OpenAI, tetapi sama ada output satu model digunakan untuk melatih model lain—dan sama ada penggunaan itu dibenarkan.
3
8
Apa maksud penyulingan model?
Penyulingan model ialah kaedah melatih model yang lebih kecil atau lebih murah menggunakan output model yang lebih berkeupayaan. Model “pelajar” belajar daripada jawapan model “guru” tanpa perlu mengakses pemberat model tersebut. OpenAI sendiri menyediakan platform penyulingan untuk melatih model yang lebih menjimatkan kos menggunakan output daripada model lebih besar.
34
Teknik ini tidak semestinya menyalahi peraturan. Pertikaian timbul apabila data latihan diperoleh atau digunakan tanpa kebenaran. OpenAI mentakrifkan penyulingan adversarial sebagai penggunaan output atau penaakulan model secara sistematik dan tanpa kebenaran untuk melatih, meniru atau menambah baik model lain.
36
Jika sesuatu keupayaan dapat ditiru melalui cara ini, pembangunnya mungkin dapat mengurangkan masa atau kos untuk membina keupayaan serupa sendiri. Pengkritik pula bimbang pengambilan output tanpa izin memberi ganjaran kepada peniruan dan menghakis kelebihan yang dibina melalui penyelidikan serta latihan model.
6
35
Kempen berasingan yang didedahkan OpenAI
Dakwaan tentang latihan GPT-6 Astra dalam laporan The Information tidak membuktikan bahawa model-model yang dinamakan itu dilatih menggunakan bahan daripada kempen berasingan yang diceritakan OpenAI pada September. Kenyataan OpenAI pada 30 September berkaitan cubaan mendapatkan penaakulan terlindung daripada modelnya; dengan sendirinya, kenyataan itu tidak menjelaskan bagaimana model dalam laporan The Information dilatih.
1
36
OpenAI berkata aktiviti paling awal yang dikesannya berlaku pada minggu pertama Julai. Laporan susulan menyebut peningkatan kepada kira-kira 16,000 permintaan daripada lebih 4,000 pengguna pada 24–25 Julai, dan OpenAI dikatakan telah menyekat kegiatan itu menjelang 28 Julai. Angka tersebut merujuk kepada permintaan dan pengguna, bukan jumlah cubaan yang terbukti berjaya.
21
27
56
Menurut laporan susulan, satu kaedah yang digunakan melibatkan penyalinan penaakulan yang disulitkan daripada satu perbualan, kemudian meminta model dalam perbualan lain memaparkannya sebagai teks. OpenAI berkata pihak yang terlibat tidak memecahkan penyulitannya, menceroboh pangkalan data atau mengakses perbualan tersimpan secara langsung.
26
36
OpenAI mengaitkan satu kelompok utama aktiviti itu dengan individu yang mempunyai kaitan dengan Moonshot AI, tetapi berkata pihaknya tidak dapat memastikan sama ada semua pengendali merupakan sebahagian daripada pelaku yang sama. CyberScoop melaporkan bahawa OpenAI tidak mengemukakan bukti teknikal kepada umum untuk menyokong dakwaan kaitan dengan Moonshot. Oleh itu, atribusi tersebut tidak dapat disahkan secara bebas berdasarkan bukti yang didedahkan.
18
32
Dakwaan dan langkah perlindungan Anthropic
Dalam pengumuman pada Oktober, Anthropic berkata langkah perlindungannya telah mengurangkan jumlah data yang diperoleh pihak yang melakukan penyulingan sekitar 90% hingga 99%. Syarikat itu turut melaporkan secara berasingan bahawa bilangan token penaakulan yang diekstrak menjadi 10 hingga 100 kali lebih rendah selepas pengenalan sebuah pengelas. Kedua-duanya ialah ukuran yang berbeza.
33
Anthropic juga mendakwa Zhipu menyuling keupayaan siber daripada model-model terkemuka Amerika Syarikat ketika membangunkan GLM-5.3. Itu ialah dakwaan Anthropic; maklumat yang tersedia tidak membuktikan bahawa dakwaan khusus tersebut merujuk kepada Claude.
33
Apa yang dipertaruhkan—dan apa yang belum terbukti
Bagi pembangun model, kebimbangannya ialah pesaing mungkin memperoleh keupayaan berguna tanpa membuat pelaburan setanding dalam penyelidikan dan latihan. Dari sudut keselamatan, penyalinan keupayaan tidak semestinya membawa bersama langkah perlindungan asal. Anthropic, misalnya, menyifatkan penyulingan haram sebagai cara meniru keupayaan AI termaju tanpa membangunkan perlindungan yang setara.
35
37
Namun, kebimbangan itu bukan bukti bahawa model DeepSeek atau Moonshot yang dilaporkan setara dengan GPT-6 Astra, bahawa kontrak tertentu telah dilanggar, atau bahawa kemudaratan khusus telah berlaku. Perbezaan pentingnya ialah antara penyulingan sebagai teknik latihan dengan amalan yang dipertikaikan untuk mendapatkan atau menggunakan semula output model lain.