AnswersPublished17 sources
Bagaimana “Compaction Smuggling” Mendedahkan Penaakulan Tersembunyi OpenAI
Xint melaporkan teknik “compaction smuggling” yang menggunakan item pemadatan perbualan untuk memindahkan penaakulan tersembunyi OpenAI supaya model lain dapat membacanya semula. Isu ini menimbulkan persoalan tentang perlindungan data antara ciri API—bukan bukti bahawa penyulitan itu sendiri telah dipecahkan.
Diterbitkan olehDisunting dengan GPT-6 LunaImej dijana dengan GPT Image 2
Research answer
Key takeaways
- Xint melaporkan teknik “compaction smuggling” yang menggunakan item pemadatan perbualan untuk memindahkan penaakulan tersembunyi OpenAI supaya model lain dapat membacanya semula.
- Isu ini menimbulkan persoalan tentang perlindungan data antara ciri API—bukan bukti bahawa penyulitan itu sendiri telah dipecahkan.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How did security firm Xint’s three-call “compaction smuggling” attack extract hidden reasoning from OpenAI’s gpt-5.6-sol as plain text—by re. Article summary: Xint reported that “compaction smuggling” turned OpenAI’s conversation-compaction feature into a route for exposing hidden reasoning as plain text, and Tim Becker claimed it bypassed all mitigations on the frontier model. Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, ch
Penyelidik firma keselamatan Xint melaporkan bahawa kelemahan dalam aliran kerja pemadatan perbualan OpenAI membolehkan penaakulan tersembunyi daripada model dikeluarkan semula sebagai teks yang boleh dibaca. Teknik itu dinamakan compaction smuggling: penaakulan dimasukkan ke dalam item pemadatan, kemudian dibaca semula oleh model lain. OpenAI mengesahkan isu itu dan melaksanakan pembaikan pada 23 Oktober 2026, menurut laporan Xint dan media. 2
5
Bagaimana teknik itu berfungsi
Pemadatan perbualan meringkaskan perbualan panjang menjadi bentuk yang lebih ringkas. Menurut penerangan Xint, proses itu boleh diarahkan supaya menyalin penaakulan tersembunyi ke dalam item pemadatan; item tersebut kemudiannya diserahkan kepada model lebih lama untuk dibaca semula. 43
5
Perkara pentingnya: laporan itu bukan mendakwa penyulitan berjaya dipecahkan. Biasanya, penaakulan model dipulangkan sebagai item tersulit yang tidak dapat dibaca pengguna. Kelemahan yang dilaporkan melibatkan cara data terlindung itu diproses pada peringkat API yang lain sehingga kandungannya boleh dibaca. 2
Laporan sekunder menyebut gpt-5.6-sol sebagai model yang penaakulannya diekstrak, dan menyatakan output pemadatan itu dibacakan semula melalui gpt-4.1 serta gpt-4o. 33
34 Namun, bahan sumber yang tersedia tidak mengesahkan semua butiran teknikal tentang urutan panggilan atau cara tepat teknik itu dilaksanakan. Oleh itu, butiran tersebut wajar dianggap sebagai laporan, bukan fakta yang disahkan secara bebas.
Mengapa pendedahan penaakulan boleh menjadi penting
Xint berkata kelemahan itu berpotensi membolehkan penyulingan model canggih pada skala besar. 5 Penyulingan ialah kaedah menggunakan output model yang lebih berkemampuan sebagai bahan latihan untuk model yang lebih kecil. Jejak penaakulan mungkin memberi maklumat tambahan tentang cara sesuatu jawapan diperoleh, berbanding jawapan akhir sahaja.
Itu menerangkan potensi nilai data yang terdedah; laporan yang tersedia tidak membuktikan bahawa sesiapa menggunakan kelemahan ini untuk melatih model pesaing.
Pembaikan dan perkara yang masih belum jelas
Xint berkata OpenAI mengesahkan isu tersebut dan melaksanakan pembaikan yang tidak diperincikan pada 23 Oktober—sebelum laporan Xint diterbitkan pada 26 Oktober. 5 The Hacker News turut melaporkan bahawa OpenAI mengesahkan dan membaiki masalah itu.
2 Satu laporan sekunder menyatakan ganjaran pemburuan pepijat berjumlah AS$6,000.
50
Maklumat awam tidak menghuraikan pembaikan itu dengan cukup terperinci untuk menjelaskan bagaimana API mengubah cara item pemadatan dikendalikan. Ia juga tidak mengesahkan setiap butiran serangan atau dakwaan bahawa semua tahap usaha penaakulan telah diuji. Maka, penemuan ini menunjukkan risiko pada laluan yang dilaporkan—bukan bukti bahawa semua model atau aliran kerja OpenAI terjejas dengan cara yang sama.
Pengajaran keselamatan: uji semula keseluruhan aliran kerja
Insiden ini menunjukkan bahawa melindungi output pada satu titik dalam API mungkin tidak memadai jika ciri lain masih boleh memproses atau memindahkannya. Xint berkata teknik itu memintas langkah mitigasi yang diperkenalkan OpenAI selepas penyelidikan terdahulu tentang pencurian jejak penaakulan. 5 CSO Online mengetengahkan pengajaran yang lebih luas: pembaikan perlu diuji semula kerana ia mungkin belum menyelesaikan sepenuhnya masalah berkaitan model.
3
Bagi penyedia AI, persoalannya bukan sekadar sama ada pengguna boleh meminta penaakulan tersembunyi secara terus. Perlindungan juga perlu kekal apabila data melalui ciri seperti pemadatan atau diproses oleh model lain. Maklumat awam mengesahkan kelemahan yang dilaporkan serta pembaikan oleh penyedia, tetapi banyak butiran pelaksanaannya masih belum didedahkan.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Bagaimana “Compaction Smuggling” Mendedahkan Penaakulan Tersembunyi OpenAI"?
Xint melaporkan teknik “compaction smuggling” yang menggunakan item pemadatan perbualan untuk memindahkan penaakulan tersembunyi OpenAI supaya model lain dapat membacanya semula.
What are the key points to validate first?
Xint melaporkan teknik “compaction smuggling” yang menggunakan item pemadatan perbualan untuk memindahkan penaakulan tersembunyi OpenAI supaya model lain dapat membacanya semula. Isu ini menimbulkan persoalan tentang perlindungan data antara ciri API—bukan bukti bahawa penyulitan itu sendiri telah dipecahkan.
Sources
thehackernews.comOpenAI Compaction Flaw Let Researchers Bypass Hidden Reasoning Protections
xint.ioStealing OpenAI Reasoning Traces via Compaction ...
github.comGitHub - theori-io/ghost-compact: OpenAI compaction research: GhostCompact + Compaction Smuggling