ChatGPT Dreaming V3：静かに進行する「記憶の毒」

主な設計上の変更点は以下の通りです。

• 全履歴のスキャン。システムは、あなたがフラグを立てた項目だけに依存せず、全ての会話を読み込みます 。
• 選好の推論。あなたが意図せず話した何気ない発言や過去の行動パターンから、暗黙の詳細情報を抽出します 。
• セッション間の記憶固定化。会話が行われていない間に「ドリーミング」プロセスが実行され、矛盾の解決や古くなった事実の更新を行います 。
• 統合された表現。保存されるのはあなたの発言の逐語的な記録ではなく、「あなたが誰か」をモデルが圧縮・生成した説明文です 。

ユーザーは設定画面から「メモリーサマリー」を閲覧できますが、その背後にある生のデータ層には直接アクセスできません 。これは、システムが誤った情報を記憶し始めた場合に、重大な監査ギャップをもたらします。

ZDNetのテストで明らかになった広範な正確性の欠陥

ZDNetのDavid Gewirtz記者は、このアップグレードされたメモリーを徹底的にテストし、時間の経過とともに深刻化する、体系的な正確性の問題を発見しました 。

• 誤った前提が永久に残る。ChatGPTは古い役職、終了したプロジェクト、上書きされたはずの好みを保存し、それらを現在の事実としてその後の全てのやり取りで扱いました 。
• 小さなエラーが「確固たる事実」になる。AIは些細な間違いを固定化し、検証済みの事実と同じ自信を持ってそれを使用します。たった一つの不正確な詳細が、その後、数十回の応答を静かに汚染していくのです 。
• 目に見えない伝播。欠陥のあるメモリーデータは、何かがおかしいという兆候を一切示さずに回答を歪めます。ユーザーは、破損したコンテキストに基づいてAIが回答していることに、被害が多くの会話に拡大するまで気づかないかもしれません 。
• 詳細だが間違ったプロファイル。このシステムは、もっともらしいだけで根本的に間違っている精緻な個人プロファイルを作成し、すべての応答を誤った前提に固定しました 。

Gewirtz氏はDreaming V3を、無責任な機能と組み合わさった技術的勝利だと評しました 。問題の本質は、AIがエラーを起こすことではなく、そのエラーが永続的で不可視なインフラとなり、その後のあなたの質問全ての土台を汚染し続けることにあるのです。

監査ギャップ：OpenAIが見せないもの

OpenAIのメモリーFAQには、静かながら衝撃的な告白が記されています。「メモリーサマリーは最も重要な詳細を捉えているはずですが、ChatGPTがあなたのチャットに基づいて記憶していることの全てを含むわけではありません。ChatGPTが何かを覚えているかどうかを確認したい場合は、チャットで直接尋ねてください」。

設定画面で確認できる「メモリーサマリー」ページは、合成されたプロファイルを人間が読める形で要約したものに過ぎず、モデルが実際に何を保存し、利用しているのかを完全に反映するものではありません 。つまり、ユーザーは設定UIだけでは、ChatGPTが自分について何を「知っている」のかを完全に監査できないのです 。隠された前提をAIに「釣り出し」で尋ねるしかありませんが、これは信頼性が低く、日常的な利用には到底実用的ではありません。

「削除すれば大丈夫」が通用しない理由

メモリー機能を管理したり、完全に消去したりするオプションは存在しますが、それぞれに深刻な限界があります。

• 機能をオフにしても、既に保存されたデータは消えない可能性がある。ZDNetは、機能を無効化しても、システムが既に合成したデータまでは削除されない可能性があると報じています 。
• 手動での削除は脆い。設定からメモリー項目を一つ一つ確認して削除することは可能ですが、Dreaming V3が次に起動した際に、既存のチャット履歴から同一の詳細を容易に再学習してしまいます 。
• 絶え間ない自動再統合。Dreaming V3はあなたの文脈を継続的に再統合し続けるため、表示されたメモリーを個別に削除しても、過去の会話から同様の情報を再推論することを防げません 。
• ほとんどのユーザーは問題が起きるまで監査しない。メモリーが破損していることに最初に気づく兆候は、多くの場合、その汚染されたデータが既に多数の回答を歪めてしまった後です 。

新たなコンテキスト・ロット（文脈腐敗）：プロファイルの中心核から腐り始める

コンテキスト・ロットとは、大規模言語モデルのコンテキストウィンドウが一杯になると、古い情報が新しいコンテンツに押し出され、出力がユーザーの状況から徐々に乖離していく現象を指します 。Dreaming V3は、まさにこのセッションをまたぐ問題に取り組むために設計されたもので、「ChatGPTが数億人規模のユーザーと数年にわたる時間軸でメモリーを適用する際に直面する、陳腐化、正確性、スケーラビリティの課題」に取り組むものだとOpenAIは説明しています 。

しかし、OpenAIが作り出したのは、より陰湿な「新型の文脈腐敗」です。これは、有限のウィンドウが一杯になって情報が失われる従来型の腐敗ではありません。一度エラーが永続的なユーザープロファイルに入り込むと、誤った情報という中心核から、以降の全ての回答が静かに劣化していくのです。システムはそれを「正しい情報」として扱います。そして、ユーザーはそれを見ることも、簡単に取り除くこともできないため、なぜ自分のAIが徐々に劣化しているのか、永遠に理解できないかもしれません 。