最も憂慮すべきプライバシー問題は、このシステムの一方的な動作です。2026年2月にarXivに投稿された論文「The Algorithmic Self-Portrait」(著者:Abhisek Dash氏ら、ACM Web Conference 2026採録)は、80人のChatGPTユーザーから得た2,050件の記憶エントリを分析しました。その結果、記憶の**96%はユーザーの明示的な指示ではなく、「会話システムによって一方的に作成された」**ことが判明しました 。
同じデータセットからは、これらのシステム生成エントリの28%にGDPR(EU一般データ保護規則)で定義される個人データが含まれ、52%にユーザーに関する心理的な洞察が含まれていることも明らかになりました 。これは、2026年8月に施行されるEU AI法などの規制下で、同意とプロファイリングに関する重大な問題を提起するものです
。
欠陥のある記憶システムは、単に「忘れる」だけでは済みません。将来の対話を積極的に腐敗させるのです。OpenAIの報告によると、Dreaming V3の事実想起精度は82.8%に向上しました。これは2024年の旧システムの精度41.5%からの大幅な向上です 。しかし、これは依然として約6件に1件の記憶が不正確である可能性を意味します。
この危険性は、システムが明示的な指示だけでなく、カジュアルなコメントや過去のやり取りから暗黙の好みを推論するようになったことで増幅されています 。もしシステムがあなたの好みや食事制限、生活状況を誤って推測した場合、その誤りは今後の「すべての回答を毒する」ことになりかねません
。古くなった記憶を自動的に書き換えるプロセスも、エラーを修正するどころか悪化させ、誤った情報をあなたの永続的なプロフィールに静かに焼き付けてしまう可能性があります
。
自分のデータのコントロールを取り戻すのは至難の業です。Dreaming V3はチャット履歴全体から記憶を合成するため、個々の記憶エントリを削除するだけでは不十分です。次のバックグラウンド合成サイクルで、システムが過去の会話から同じ情報を再抽出する可能性があるからです 。
情報を完全に消去するには、ユーザーは元の情報を含む特定のチャット履歴を手動で見つけ出して削除する必要があります。これは多段階で直感的とは言えないプロセスであり、数年分の会話ログを持つ長期ユーザーにとっては、事実上実行不可能です 。
ここで「コンテキスト腐敗」(Context Rot)の概念が、以前よりもはるかに深刻な問題として浮上します。コンテキスト腐敗とは、AIのコンテキストウィンドウが矛盾した情報、古い情報、無関係な情報で満たされることで、パフォーマンスが低下する現象です 。これまでの常套手段は、「新しいチャットを開始して、まっさらな状態に戻す」ことでした
。
Dreaming V3はこの解決策を無効化します。永続的な記憶プロフィールは、古い仕事、過去の人間関係、期限切れの好みといった、古くなった、あるいは誤ったデータをセッションを超えて保持し続けるからです 。コンテキスト腐敗の問題はもはや単一の長い会話に限定されず、新しいチャットすべてに感染するシステム的な問題となります。AIの「記憶」は、あなたが個々のセッションをどれだけ注意深く管理しても、体系的に回答の精度を損なう固定ノイズ源となるのです
。
機能の展開方法自体も、さらなる懸念材料です。Dreaming V3は当初、米国のChatGPT PlusおよびProユーザーのみに提供されており、国際的なユーザーや無料プランのユーザーへの提供時期は明確にされていません 。これは、一部の有料ユーザーが自動プロファイリングの対象となる一方で、そうでないユーザーが存在するという、二層構造のプライバシー環境を生み出しています。
さらに、単純で監査可能なテキストリストだった記憶が、複雑なバックグラウンド合成による記憶状態へと移行したことで、ユーザーの可視性は劇的に低下しました。ユーザーは、システムが自分について何を推測したのか、その全容を簡単に検査、理解、修正することができなくなりました 。このプロセスはブラックボックス化し、ユーザーが自身のデジタルプロフィールを監査・制御する能力を損なっています。
Comments
0 comments