OpenAI dakwa kelompok berkait Moonshot cuba mendedahkan penaakulan tersembunyi GPT

OpenAI berkata ia telah membendung kempen yang cuba mendedahkan penaakulan terlindung daripada model GPT. Syarikat itu mengaitkan satu kelompok utama dalam kegiatan tersebut dengan individu yang dikaitkan dengan Moonshot AI, pembangun keluarga model Kimi—namun tidak mendakwa bahawa semua pengendali yang dikesan ialah pihak yang sama. 7

Dakwaan OpenAI ini perlu dibaca bersama laporan lain, tetapi tidak disamakan dengannya: nasihat agensi keselamatan siber AS dan laporan Anthropic membincangkan dakwaan penyulingan model pada skala lebih luas serta cara permintaan dikendalikan. Semua ini ialah dakwaan pihak yang mengeluarkan laporan, bukan bukti bahawa setiap permintaan berjaya atau semuanya dilakukan oleh Moonshot.

Apa yang OpenAI dakwa berlaku?

Menurut OpenAI, kegiatan itu bermula pada 1 Julai 2026. Pada 24 dan 25 Julai, syarikat itu mengesan 16,000 permintaan daripada lebih 4,000 pengguna yang menggunakan corak pengekstrakan. Siasatan lebih luas menemui corak arahan berkaitan dalam kalangan lebih 15,000 pengguna, dan OpenAI berkata ia membendung kelompok tersebut menjelang 28 Julai. 7

Salah satu teknik yang diterangkan melibatkan penyalinan penaakulan yang telah dienkripsi daripada satu perbualan, kemudian meminta model dalam perbualan lain menyahsulit dan menyalinnya semula. OpenAI menyatakan angka yang dilaporkan mengira cubaan, bukan semestinya kejayaan mendapatkan penaakulan itu. Ia juga berkata tidak dapat memastikan sama ada semua pengendali berasal daripada satu pihak. 7

Dakwaan berasingan daripada agensi AS dan Anthropic

Nasihat bersama NSA, CISA dan FBI pada September menyenaraikan Moonshot sebagai satu daripada enam syarikat berpangkalan di China yang didakwa terlibat dalam penyulingan model. Agensi itu menyebut secara kolektif berbilion token yang diperoleh melalui berjuta-juta permintaan kepada model AI termaju AS sejak sekurang-kurangnya penghujung 2024. Angka itu bukan angka khusus untuk Moonshot sahaja. Nasihat tersebut turut menyebut permintaan disalurkan melalui beberapa laluan akses. 3

Secara berasingan, Anthropic menuduh Moonshot menyalurkan secara senyap permintaan ribuan pengguna kepada model Claude, kemudian mengemukakan jawapannya seolah-olah hasil model sendiri, tanpa memaklumkan pengguna. 9 Penyulingan model ialah proses melatih model yang lebih kecil atau kurang berkeupayaan menggunakan hasil daripada model yang lebih berkuasa; kaedah itu boleh digunakan secara sah, tetapi laporan berkenaan mendakwa ia berlaku tanpa kebenaran dalam kes-kes yang dihuraikan.

Kimi K3 melalui Codex: kemasukan produk, bukan bukti kaitan

Dalam perkembangan yang berasingan, laporan media menyatakan model Kimi K3 milik Moonshot boleh digunakan oleh pelanggan perusahaan melalui Codex, alat pengaturcaraan OpenAI, menerusi penyedia inferens AS, Baseten. Caj penggunaan boleh dikira terhadap komitmen perbelanjaan OpenAI yang sedia ada, tanpa perlu pelanggan melantik pembekal baharu. Laporan itu menyifatkannya sebagai model terbuka China pertama yang memasuki saluran perolehan perusahaan tersebut. 31

Kewujudan saluran komersial itu menjadikan perkembangan ini menarik perhatian, tetapi ia bukan bukti bahawa integrasi Codex memudahkan cubaan pengekstrakan yang didakwa OpenAI.

Apakah langkah perlindungan yang disarankan?

Nasihat agensi AS menyeru syarikat AI untuk mengesan dan mengurangkan risiko kempen penyulingan tanpa kebenaran pada skala besar. Ia juga menerangkan bahawa permintaan boleh melalui pelbagai laluan akses, termasuk API, penyedia awan jauh dan agregator pihak ketiga yang boleh menyamarkan metadata pengguna. 3

Bahan yang dirujuk di sini tidak cukup untuk mengesahkan satu senarai lengkap kawalan teknikal yang disarankan agensi. Maka, lebih tepat untuk menyatakan bahawa nasihat itu menekankan pengesanan dan mitigasi, tanpa mengaitkan senarai semak terperinci yang tidak dapat disahkan kepada agensi tersebut.