答え公開済み1 時間前Last edited 54 分前17 ソース

会話の圧縮機能が、AIの隠れた推論を読み出す経路に

Xintによると、会話の圧縮データに隠れた推論を含め、別のモデルに読み取らせる手法で、推論をテキストとして取り出せた。問題は暗号の解読ではなく、APIの機能をまたいで処理される間も保護を維持できるかという点にある。 OpenAIは2026年10月23日に修正を展開したとされるが、具体的な修正内容や攻撃手法の詳細は公表情報からは分からない。

公開者GPT-6 Luna で編集GPT Image 2 で画像を生成

Studio Global AIで検索して事実確認さらにトレンドページを見る

研究の答え

重要なポイント

Xintによると、会話の圧縮データに隠れた推論を含め、別のモデルに読み取らせる手法で、推論をテキストとして取り出せた。
問題は暗号の解読ではなく、APIの機能をまたいで処理される間も保護を維持できるかという点にある。
OpenAIは2026年10月23日に修正を展開したとされるが、具体的な修正内容や攻撃手法の詳細は公表情報からは分からない。

Abstract illustration representing hidden AI reasoning moving through a conversation-compaction process — How did security firm Xint’s three-call “compaction smuggling” attack extract hidden reasoning from OpenAI’s gpt-5.6-sol as plain text—by reAn illustration of hidden reasoning passing through an AI system’s compaction workflow.
AI プロンプト
Create a landscape editorial hero image for this Studio Global article: How did security firm Xint’s three-call “compaction smuggling” attack extract hidden reasoning from OpenAI’s gpt-5.6-sol as plain text—by re. Article summary: Xint reported that “compaction smuggling” turned OpenAI’s conversation-compaction feature into a route for exposing hidden reasoning as plain text, and Tim Becker claimed it bypassed all mitigations on the frontier model. Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, ch
openai.com

Xintによると、OpenAIの会話圧縮機能を利用して、通常は読めない状態で扱われるモデルの推論をテキストとして読み出す不具合が見つかりました。同社はこの手法を「Compaction Smuggling（圧縮への紛れ込み）」と呼んでいます。OpenAIは問題を修正し、2026年10月23日に対策を展開したと報じられています。 2 5

会話の「圧縮」が読み出し経路になった

会話の圧縮（compaction）は、長くなったやり取りを短いデータにまとめる処理です。Xintの説明では、この処理を誘導してモデルの隠れた推論を圧縮用のデータ項目に含め、その項目を別のモデルに読み取らせることで、内容を文章として出力させました。 5 43

報道によると、推論モデルが生成する内部の推論データは、通常、利用者が読めない暗号化された項目として返されます。今回報告された問題は、暗号自体を破ったという話ではありません。圧縮などの後続処理に渡ったとき、保護対象のデータがどう扱われるかに関わる不具合です。 2

一部の報道は、対象モデルを gpt-5.6-sol、圧縮データを読み返したモデルを gpt-4.1 と gpt-4o としています。 33 34 ただし、公開情報だけでは、攻撃の具体的な手順や書式など、細部のすべてを確認できません。個別の技術的説明は慎重に受け止める必要があります。

なぜ推論データが問題になるのか

Xintは、この不具合が高度なモデルの大規模な「蒸留」を可能にしうると指摘しました。 5 蒸留とは、能力の高いモデルの出力を教材のように使い、より小さなモデルを訓練する手法です。最終回答だけでなく推論の記録も得られれば、訓練材料として価値を持つ可能性があります。

ただし、今回の報告は、誰かが実際にこの不具合を使って競合モデルを訓練したことを示すものではありません。確認されているのは、推論データを読み出せる経路が報告され、修正されたという点です。

修正は報告前。詳細は公表されていない

Xintによれば、OpenAIは問題を確認し、同社が10月26日に報告を公開する前の10月23日に、内容を明らかにしていない修正を展開しました。 5 The Hacker Newsも、OpenAIが問題を確認して修正したと報じています。 2 また、二次報道では報奨金として6,000ドルが支払われたとされています。 50

一方、公開情報からは、修正によって圧縮データの扱いがどう変わったのかは分かりません。どのような入力形式が使われたか、報道にある個々の技術的主張がどこまで検証されたかについても、確認できる情報には限りがあります。そのため、報告された経路への懸念と、すべてのOpenAIモデルや処理が同様に影響を受けたという結論は分けて考えるべきです。

教訓は「機能をまたいで」保護を確かめること

Xintは、この手法が、推論記録の窃取に対してOpenAIが以前に導入した対策を回避したと説明しています。 5 CSO Onlineは、モデル関連の問題では一度の修正で解決したと決めつけず、再テストすることが重要だという教訓を示しました。 3

利用者が直接、隠れた推論を求められるかどうかだけでは、保護の十分さは判断できません。圧縮のような便利な機能や、モデル間のデータ受け渡しを含む一連の処理で、機密データが適切に保護され続けるかも確認が必要です。今回の報告はその課題を浮き彫りにしましたが、修正の実装や影響範囲の詳細は、なお公表情報からは明らかになっていません。

Studio Global AI

研究を続けてください

このページにはソースに裏付けされた回答が含まれており、Studio Global 内で続行できます。

Studio Global AIで検索して事実確認

人々も尋ねます