以下就是背后正在发生的事情——以及为什么你应该对此保持警惕。
Dreaming V3 彻底抛弃了以往明确的“已保存记忆”列表。取而代之的,是一个在对话结束后运行的后台合成引擎,它会读取用户完整的聊天记录,推断你的偏好、工作模式、个人限制及其他细节——所有这些操作都无需你发出任何“记住这个”的指令 。
关键架构的变革包括:
用户虽然可以在“设置”中查看一份记忆摘要,但底层的原始数据层并不直接对外开放 。这就造成了一个可怕的审查盲区——当系统开始出错时,这个盲区便会成为致命伤。
ZDNet 记者大卫·格维尔茨对这次升级后的记忆系统进行了深度测试,发现了大量会随着时间推移不断加剧的系统性严重问题 。
格维尔茨将 Dreaming V3 形容为一场技术上的胜利,却搭载了一个极其不负责任的功能 。核心问题不在于 AI 会犯错——而在于这个错误会变成你未来所有提问的、看不见的永久基石。
OpenAI 的记忆常见问题解答页面上,有一句堪称毁灭性的坦率承认:“虽然记忆摘要应当捕捉最重要的细节,但它并不会包含 ChatGPT 基于你的聊天记录所‘记住’的全部内容。如果你想知道 ChatGPT 是否记住了某件事,可以直接在聊天中问它” 。
记忆摘要页面只是合成档案的一份“人类可读”的概览,并不能完整呈现模型实际上储存和使用了什么 。这意味着用户根本无法仅凭设置界面来全面审查 ChatGPT “知道”了哪些关于你的信息 。你只能靠“钓鱼式”的提问——要求 AI 自己坦白它对你有何隐藏的假设——但这既不靠谱,也完全不适用于日常场景。
虽然平台提供了管理或清除记忆的选项,但每种方法都伴随着巨大的局限性。
“语境腐朽”指的是,随着大语言模型的上下文窗口逐渐被填满,其输出质量逐渐退化的现象——旧的信息被新涌入的内容挤掉,最终导致回答偏离用户实际的处境 。Dreaming V3 正是为了跨越不同的会话来解决这个问题,直击所谓“当记忆应用于 ChatGPT 数亿用户和跨年时间跨度时,所出现的陈旧、正确性和可扩展性挑战” 。
但 OpenAI 所创造的这个系统,引入了一种更隐蔽的变体。原来的“语境腐朽”是窗口塞满而丢失信息,现在则是从档案内核开始腐败:一旦某个错误信息进入了用户的永久档案,它便会悄无声息地降低此后每一个回答的质量。这并非传统因信息遗失导致的语境腐朽——这是源于被系统尊为权威的 “错误信息” 的腐朽。而且,由于用户无法看见或轻松删除这些信息,他们可能永远不会明白为什么自己的 AI 正在慢慢变蠢 。
以下就是背后正在发生的事情——以及为什么你应该对此保持警惕。
Dreaming V3 彻底抛弃了以往明确的“已保存记忆”列表。取而代之的,是一个在对话结束后运行的后台合成引擎,它会读取用户完整的聊天记录,推断你的偏好、工作模式、个人限制及其他细节——所有这些操作都无需你发出任何“记住这个”的指令 。
关键架构的变革包括:
用户虽然可以在“设置”中查看一份记忆摘要,但底层的原始数据层并不直接对外开放 。这就造成了一个可怕的审查盲区——当系统开始出错时,这个盲区便会成为致命伤。
ZDNet 记者大卫·格维尔茨对这次升级后的记忆系统进行了深度测试,发现了大量会随着时间推移不断加剧的系统性严重问题 。
格维尔茨将 Dreaming V3 形容为一场技术上的胜利,却搭载了一个极其不负责任的功能 。核心问题不在于 AI 会犯错——而在于这个错误会变成你未来所有提问的、看不见的永久基石。
OpenAI 的记忆常见问题解答页面上,有一句堪称毁灭性的坦率承认:“虽然记忆摘要应当捕捉最重要的细节,但它并不会包含 ChatGPT 基于你的聊天记录所‘记住’的全部内容。如果你想知道 ChatGPT 是否记住了某件事,可以直接在聊天中问它” 。
记忆摘要页面只是合成档案的一份“人类可读”的概览,并不能完整呈现模型实际上储存和使用了什么 。这意味着用户根本无法仅凭设置界面来全面审查 ChatGPT “知道”了哪些关于你的信息 。你只能靠“钓鱼式”的提问——要求 AI 自己坦白它对你有何隐藏的假设——但这既不靠谱,也完全不适用于日常场景。
虽然平台提供了管理或清除记忆的选项,但每种方法都伴随着巨大的局限性。
“语境腐朽”指的是,随着大语言模型的上下文窗口逐渐被填满,其输出质量逐渐退化的现象——旧的信息被新涌入的内容挤掉,最终导致回答偏离用户实际的处境 。Dreaming V3 正是为了跨越不同的会话来解决这个问题,直击所谓“当记忆应用于 ChatGPT 数亿用户和跨年时间跨度时,所出现的陈旧、正确性和可扩展性挑战” 。
但 OpenAI 所创造的这个系统,引入了一种更隐蔽的变体。原来的“语境腐朽”是窗口塞满而丢失信息,现在则是从档案内核开始腐败:一旦某个错误信息进入了用户的永久档案,它便会悄无声息地降低此后每一个回答的质量。这并非传统因信息遗失导致的语境腐朽——这是源于被系统尊为权威的 “错误信息” 的腐朽。而且,由于用户无法看见或轻松删除这些信息,他们可能永远不会明白为什么自己的 AI 正在慢慢变蠢 。