JawabanDipublikasikan17 sumber
Celah Compaction Smuggling Buka Jalan ke Penalaran Tersembunyi OpenAI
Xint melaporkan bahwa compaction smuggling dapat menyisipkan penalaran tersembunyi ke dalam item pemadatan percakapan, lalu membuat model lain membacanya kembali sebagai teks. Masalah ini menunjukkan risiko perlindungan data saat diproses lintas fitur API—bukan bukti bahwa enkripsi itu sendiri berhasil dibobol.
Diterbitkan olehDiedit dengan GPT-6 LunaGambar dibuat dengan GPT Image 2
Jawaban penelitian
Poin-poin penting
- Xint melaporkan bahwa compaction smuggling dapat menyisipkan penalaran tersembunyi ke dalam item pemadatan percakapan, lalu membuat model lain membacanya kembali sebagai teks.
- Masalah ini menunjukkan risiko perlindungan data saat diproses lintas fitur API—bukan bukti bahwa enkripsi itu sendiri berhasil dibobol.
AI Perintah
openai.comCreate a landscape editorial hero image for this Studio Global article: How did security firm Xint’s three-call “compaction smuggling” attack extract hidden reasoning from OpenAI’s gpt-5.6-sol as plain text—by re. Article summary: Xint reported that “compaction smuggling” turned OpenAI’s conversation-compaction feature into a route for exposing hidden reasoning as plain text, and Tim Becker claimed it bypassed all mitigations on the frontier model. Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, ch
Firma keamanan Xint melaporkan celah pada alur pemadatan percakapan OpenAI yang memungkinkan peneliti menampilkan penalaran tersembunyi model sebagai teks yang dapat dibaca. Teknik itu disebut compaction smuggling: penalaran dimasukkan ke dalam item pemadatan, lalu dibaca kembali oleh model lain. OpenAI memperbaiki masalah tersebut pada 23 Oktober 2026, menurut pengungkapan Xint dan pemberitaan terkait. 2
5
Bagaimana compaction smuggling bekerja?
Pemadatan percakapan atau compaction meringkas percakapan panjang menjadi representasi yang lebih ringkas. Menurut laporan Xint, proses ini dapat diarahkan untuk menyalin penalaran tersembunyi ke dalam item pemadatan. Item tersebut kemudian diberikan kepada model yang lebih lama, yang dapat mengungkapkan isinya dalam bentuk teks. 5
43
Penalaran model OpenAI biasanya dikembalikan sebagai item terenkripsi yang tidak dapat dibaca pengguna. 2 Jadi, inti temuan ini bukan bahwa enkripsi tersebut berhasil dipecahkan. Risikonya muncul saat data yang seharusnya terlindungi diproses lagi melalui fitur API lain.
Sejumlah laporan sekunder menyebut gpt-5.6-sol sebagai model yang penalarannya diekstrak, kemudian menyebut gpt-4.1 dan gpt-4o sebagai model yang mengulang isi item pemadatan itu. 33
34 Namun, sumber yang tersedia tidak memastikan seluruh rincian teknis dari urutan tersebut. Karena itu, detail tambahan mengenai cara serangan disusun perlu diperlakukan dengan hati-hati.
Mengapa jejak penalaran bisa bernilai?
Xint mengatakan celah ini berpotensi memungkinkan distilasi model canggih dalam skala besar. 5 Dalam distilasi, keluaran model yang lebih kuat dapat digunakan sebagai bahan pelatihan model yang lebih kecil. Jejak penalaran berpotensi memberi lebih banyak informasi tentang cara model menghasilkan jawaban dibandingkan jawaban akhir saja.
Itu menjelaskan potensi nilai data yang terekspos, bukan bukti bahwa pihak tertentu benar-benar menggunakan celah ini untuk melatih model pesaing.
Perbaikan sudah dilakukan, tetapi detailnya belum terbuka
Xint mengatakan OpenAI mengonfirmasi masalah dan menerapkan perbaikan yang tidak dirinci pada 23 Oktober—sebelum Xint memublikasikan temuannya pada 26 Oktober. 5 The Hacker News juga melaporkan bahwa OpenAI mengonfirmasi dan memperbaiki celah tersebut.
2 Laporan sekunder menyebut hadiah bug sebesar US$6.000.
50
Informasi publik yang tersedia belum menjelaskan bagaimana perbaikan itu mengubah penanganan item pemadatan oleh API. Informasi tersebut juga belum cukup untuk memastikan cakupan dampak pada setiap model atau alur kerja OpenAI. Temuan ini mendukung adanya risiko pada jalur yang dilaporkan, tetapi tidak membuktikan bahwa semua model atau fitur terdampak dengan cara yang sama.
Pelajaran keamanan: uji ulang seluruh alur
Insiden ini mengingatkan bahwa melindungi keluaran sensitif di satu titik API belum tentu cukup jika fitur lain masih dapat memproses atau meneruskannya. Xint mengatakan teknik tersebut melewati mitigasi yang diperkenalkan OpenAI setelah riset terdahulu tentang pencurian jejak penalaran. 5 CSO Online menyoroti pelajaran yang lebih luas: perbaikan keamanan perlu diuji ulang karena belum tentu menuntaskan masalah terkait model sepenuhnya.
3
Bagi penyedia AI, pertanyaannya bukan hanya apakah pengguna bisa meminta penalaran tersembunyi secara langsung. Perlindungan juga perlu tetap berlaku saat data melewati fitur seperti pemadatan percakapan atau berpindah antar-model. Informasi publik mengonfirmasi adanya celah yang dilaporkan dan perbaikan dari penyedia, tetapi rincian implementasinya belum diungkap.
Studio Global AI
Lanjutkan penelitian Anda
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
Orang-orang juga bertanya
Apa jawaban singkat untuk "Celah Compaction Smuggling Buka Jalan ke Penalaran Tersembunyi OpenAI"?
Xint melaporkan bahwa compaction smuggling dapat menyisipkan penalaran tersembunyi ke dalam item pemadatan percakapan, lalu membuat model lain membacanya kembali sebagai teks.
Apa poin penting yang harus divalidasi terlebih dahulu?
Xint melaporkan bahwa compaction smuggling dapat menyisipkan penalaran tersembunyi ke dalam item pemadatan percakapan, lalu membuat model lain membacanya kembali sebagai teks. Masalah ini menunjukkan risiko perlindungan data saat diproses lintas fitur API—bukan bukti bahwa enkripsi itu sendiri berhasil dibobol.
Sumber
thehackernews.comOpenAI Compaction Flaw Let Researchers Bypass Hidden Reasoning Protections
xint.ioStealing OpenAI Reasoning Traces via Compaction ...
github.comGitHub - theori-io/ghost-compact: OpenAI compaction research: GhostCompact + Compaction Smuggling