ChatGPT Dreaming V3：個腦好咗，但你每條答案都可能被佢靜靜雞毒死

主要嘅架構改動包括：

• 全歷史掃描。 個系統唔再淨係依賴你親手標記嘅項目——佢會將所有嘢睇晒 。
• 推斷偏好。 佢會喺你嘅隨口講嘅說話同行為模式入面，提取一啲你從來冇打算畀佢記住嘅隱含細節 。
• 喺對話之間整合。 一個叫做「發夢」嘅過程會喺離線狀態下運行，解決矛盾同更新過時資訊 。
• 合成呈現。 最終儲存嘅，唔係你講過嘅說話嘅逐字記錄，而係一個經過模型壓縮、由 AI 生成、描述你係邊個嘅檔案 。

用家可以喺設定頁面睇到一個記憶摘要（Memory Summary），但底層嘅原始數據層並無直接開放畀你睇 。呢一點就形成咗一個審查盲點，而當個系統開始出錯嗰陣，呢個盲點就會變得非常致命。

ZDNet 測試發現大規模嘅準確度災難

ZDNet 記者 David Gewirtz 對呢個升級版記憶進行咗廣泛測試，發現咗一啲隨住時間過去會不斷累積嘅嚴重、系統性準確度問題 。

• 過期假設會永久滯留。 ChatGPT 儲存咗舊嘅職銜、已經完結嘅項目同過咗時嘅偏好，然後喺之後嘅每一次互動入面，將呢啲過期資訊當作當前事實咁用 。
• 小錯誤會變成金科玉律。 個 AI 會鎖死啲小錯誤，然後用返對待驗證事實嗰種自信去運用佢哋。一個錯誤嘅細節就咁靜靜雞污染咗之後幾十次嘅回應 。
• 隱形擴散。 有缺陷嘅記憶數據會扭曲答案，但完全冇任何可見跡象顯示出咗問題。用家可能永遠唔會意識到個 AI 係基於腐敗嘅背景資訊去運作，直到損害已經擴散到好多對話入面先至發現 。
• 詳細但錯誤嘅檔案。 個系統會建立睇落好有板有眼、但查實錯漏百出嘅個人檔案，將之後嘅每一個回應都錨定喺錯誤嘅假設之上 。

Gewirtz 對 Dreaming V3 嘅評價係：技術上嘅一大勝利，但功能上係「不負責任」嘅設計 。核心問題唔在於 AI 會出錯——而係呢個錯誤會變成一個永久嘅、隱形嘅基礎設施，然後影響晒你之後問嘅所有嘢。

審查盲點：OpenAI 有咩係唔會話你知㗎？

OpenAI 嘅官方「記憶常見問題」（Memory FAQ）入面，有一個低調但極具殺傷力嘅承認：「雖然記憶摘要應該捕捉到最重要嘅細節，但佢並唔會包含 ChatGPT 基於你嘅對話而記得嘅所有內容。如果你想知 ChatGPT 係咪記住咗某樣嘢，直接喺對話度問佢就得。」

記憶摘要頁面，只係呢個合成檔案嘅一個畀人睇得明嘅概覽，而唔係一個可以完全睇穿個模型實際儲存咗同用緊咩嘢嘅窗口 。換句話講，用家根本冇辦法淨係透過設定頁面嘅 UI，去全面審查 ChatGPT 到底「知道」你啲咩 。你要自己慢慢去釣魚——不斷問個 AI 叫佢揭示佢對你嘅隱藏假設——呢種做法既唔可靠，對於日常使用嚟講亦都唔實際。

點解「就咁刪除佢」係解決唔到問題㗎？

管理或者清除記憶嘅選項係存在嘅，但每個選項都帶住重大嘅限制。

• 關閉記憶功能未必會清除已經儲存咗嘅嘢。 ZDNet 報導指出，停用呢項功能並唔一定會刪除系統已經合成咗嘅數據 。
• 手動刪除係好脆弱嘅。 用家可以喺設定入面檢視同刪除個別記憶條目，但個「發夢」過程可以喺下一次運行嗰陣，從你現有嘅對話紀錄度，重新學返一模一樣嘅細節 。
• 持續嘅自動重新合成。 因為 Dreaming V3 會持續不斷咁重新合成背景資訊，單純刪除列出嘅記憶，並唔會阻止個系統從過去嘅對話入面，重新推斷出類似嘅資訊 。
• 大多數用家喺出事之前都唔會去審查。 腐敗記憶嘅第一個可視跡象，通常喺啲有毒數據已經扭曲咗好多回應之後先至會出現 。

新品種嘅「語境腐爛」：由檔案中心開始腐壞

所謂「語境腐爛」（Context Rot），係指大型語言模型隨住對話紀錄越積越多，令到早期資訊俾新內容擠走咗，導致輸出結果慢慢偏離用家嘅實際情況 。Dreaming V3 嘅設計初衷，正正係要跨對話咁解決呢個問題，去應對「當記憶應用喺數以億計嘅用戶同跨年度嘅時間維度時，觀察到嘅陳舊性、正確性同可擴展性挑戰」。

但係 OpenAI 今次構建出嚟嘅嘢，引入咗一種更加陰濕嘅變種。而家唔再係因為有限嘅記憶空間填滿咗而搞到資訊腐爛，而係由個檔案中心開始向外腐爛：一旦有錯誤進入咗個恆久用戶檔案，佢就會靜靜雞咁降解之後嘅每一個答案。呢種唔係傳統嗰種因為「無咗資訊」而引致嘅語境腐爛——而係源於系統將「錯誤資訊」當成權威去運用。而因為用家睇唔到、又冇辦法輕易移除佢，佢哋可能永遠都唔會知道，點解自己嘅 AI 會慢慢越用越差 。