最令人擔心嘅私隱問題,係呢個系統嘅單方面操作模式。一份喺2026年2月刊登,由Abhisek Dash同佢嘅同事撰寫,並獲ACM Web Conference 2026接受嘅arXiv論文《演算法自畫像》("The Algorithmic Self-Portrait"),分析咗80個ChatGPT用戶嘅2,050條記憶記錄。研究發現,96%嘅記憶「都係由對話系統單方面創造出嚟」,而唔係由用戶明確指示去做嘅 。同一個數據集仲顯示,呢啲系統產生嘅記錄入面,有28%包含咗GDPR所定義嘅個人資料,而52%就包含咗對用戶嘅心理洞察
。呢樣嘢即刻引發咗關於同意同個人檔案分析嘅疑問,特別係喺《通用數據保障條例》(GDPR)同埋將於2026年8月生效嘅《歐盟人工智能法案》之下
。
一個有缺陷嘅記憶系統,唔單止會忘記嘢,佢仲會主動污染你以後嘅對話。OpenAI報告話,Dreaming V3嘅事實回憶率提升到82.8%,比起2024年原始系統嘅41.5%準確度,確實係一個大躍進 。但係,呢個數字仍然代表住大約每6個儲存嘅記憶入面,就有1個可能係錯嘅。更危險嘅係,系統而家會由你嘅閒聊同過去嘅互動中,推斷出你隱含嘅偏好,唔單止係你明確講過嘅指示
。如果佢錯誤咁推斷咗你嘅喜好、飲食限制或者生活狀況,呢個錯誤就會「污染佢以後畀你嘅每一個答案」
。嗰啲針對過時記憶嘅自動重寫程序,唔單止冇修正問題,仲可能會複合呢啲錯誤,靜靜雞將謬誤融入你嘅永久檔案入面
。
想重新掌握你嘅數據控制權,係一個好大嘅挑戰。因為Dreaming V3係由你成個對話歷史去綜合記憶,單單刪除一個記憶記錄係唔夠嘅。個系統可以喺下一次後台綜合循環嘅時候,由你以前嘅對話度重新提取返同一樣嘅資訊 。要徹底剷走一項資訊,用戶必須手動搵返同刪除包含原始資訊嗰一段特定對話記錄——呢個係一個多步驟、唔直覺嘅過程,對於嗰啲有成幾年對話記錄嘅長期用戶嚟講,實際上係行唔通嘅
。
呢度就係「上下文腐爛」呢個概念變得關鍵而且比以前更危險嘅地方。上下文腐爛係一個有詳細記錄嘅現象,指嘅係當AI嘅上下文視窗(Context Window)充滿咗矛盾、過時或者唔相關嘅資訊時,佢嘅表現就會變差 。一直以嚟,標準嘅解決方法都好簡單:開個新對話,清空塊白板,重新嚟過
。
Dreaming V3徹底打破咗呢個解決方法。嗰個持久嘅記憶檔案,意味住陳舊或者錯誤嘅數據——例如舊工作、過去嘅關係、唔再適用嘅偏好——會跨越唔同嘅對話環節繼續存在 。上下文腐爛嘅問題唔再局限於單一嘅長對話;佢變成一個系統性問題,會感染你每一個新開嘅對話。AI嘅「記憶」變成咗一個固定嘅噪音源,無論你點樣小心管理個別環節,佢都會系統性地損害回應嘅準確度
。
呢次功能推出嘅方式本身,都帶嚟另一層擔憂。Dreaming V3最初淨係開放畀美國嘅ChatGPT Plus同Pro訂閱用戶,仲未有任何清晰嘅時間表話幾時會開放畀國際用戶或者免費方案嘅用戶 。呢樣嘢製造咗一個雙軌制嘅私隱環境,部分付費用戶會被自動做個人檔案分析,而另一啲人就唔會。
Comments
0 comments