Dreaming V3: Как новое «сновидение» ChatGPT тайно искажает реальность

Как работает «мозг» Dreaming V3

Dreaming V3 полностью отказывается от привычного списка сохранённых заметок. Вместо этого после завершения диалога запускается фоновый «процесс сновидения». Он проходится по всей вашей истории чатов, выявляя предпочтения, рабочие паттерны, личные ограничения и даже неявные детали, которые вы, возможно, и не собирались афишировать .

Ключевые изменения в архитектуре:

• Сканирование всей истории. Система больше не опирается на то, что вы сами решили сохранить — она анализирует всю переписку .
• Домысливание предпочтений. ИИ извлекает скрытую информацию из случайных реплик и прошлых действий .
• Автономная консолидация. Процесс «сновидения» происходит в перерывах между сессиями, разрешает противоречия и обновляет устаревшие сведения .
• Синтезированное представление. ChatGPT хранит не дословную стенограмму ваших слов, а сжатую, сгенерированную моделью «выжимку» того, кто вы есть .

Пользователям доступна страница со сводкой памяти в настройках, но доступа к базовому слою «сырых» данных нет . Этот пробел в аудите становится критичным, когда система начинает ошибаться.

Тесты ZDNet выявили системные провалы в точности

Практические испытания репортера ZDNet Дэвида Гевиртца показали серьёзные систематические проблемы, ущерб от которых нарастает со временем :

• Устаревшая информация «прилипает» намертво. ChatGPT фиксирует старые названия должностей, закрытые проекты и более не актуальные предпочтения как действующие факты, используя их во всех следующих беседах .
• Маленькая неточность становится догмой. Искусственный интеллект «цементирует» мелкие ошибки с той же убеждённостью, что и верифицированные знания. Одна-единственная оплошность незаметно отравляет множество будущих диалогов .
• Невидимое искажение. Испорченные данные памяти деформируют ответы, при этом пользователь не видит никаких признаков того, что-то пошло не так. Можно даже не догадываться, что ИИ работает с искажённым контекстом, пока ущерб не распространится на десятки бесед .
• Детальные, но ложные профили. Система создаёт подробные личностные характеристики — правдоподобные, но ошибочные, привязывая каждый ответ к неверной основе .

Гевиртц назвал Dreaming V3 «техническим триумфом» в паре с «безответственной функцией» . Главная проблема не в том, что ИИ допускает ошибки, а в том, что ошибка становится постоянной, невидимой базой для всего, о чём вы спросите впоследствии.

Что именно OpenAI скрывает от ваших глаз

В официальном FAQ по функции памяти есть, на первый взгляд, безобидное, но тревожное примечание: «Хотя сводка памяти должна отражать самые важные детали, она всё же не включает в себя всё, что ChatGPT запомнил из ваших чатов. Если хотите узнать, запомнил ли ChatGPT что-то конкретное, просто спросите его об этом в чате.»

То есть страница «Сводка памяти» — это лишь удобочитаемый обзор синтезированного профиля, а не полная картина того, что модель на самом деле хранит и использует в работе . Это значит, что пользовательские настройки не позволяют провести полноценный аудит того, что нейросеть «знает» о вас . Пришлось бы буквально выуживать информацию, спрашивая ИИ о его скрытых предположениях — метод, который ненадёжен и неприменим на постоянной основе.

Почему просто «удалить» — не решение

Возможность управлять памятью или стирать её действительно есть, но у всех способов есть существенные ограничения:

• Отключение памяти может не стереть уже накопленное. ZDNet сообщает, что деактивация этой функции не обязательно удаляет уже синтезированные системой данные .
• Ручное удаление ненадёжно. Можно находить и удалять отдельные записи в настройках, но при следующем запуске процесс «сновидения» может заново собрать те же сведения из истории чатов .
• Постоянный автоматический пересинтез. Поскольку Dreaming V3 непрерывно пересобирает контекст, простое удаление отдельных «воспоминаний» не помешает системе заново вывести схожую информацию из ваших прошлых бесед .
• Заметят, лишь когда сломается. Первые заметные признаки испорченной памяти — это зачастую ответы, которые неверная информация искажала уже долгое время .

Новый вид «гниения контекста»: изнутри наружу

Термин «гниение контекста» описывает, как большие языковые модели деградируют по мере заполнения контекстного окна: более старые данные вытесняются новым контентом, и ответы начинают расходиться с реальной ситуацией пользователя . Dreaming V3 и создавалась как раз для борьбы с этим эффектом на длинных дистанциях, чтобы преодолеть «проблемы актуальности, корректности и масштабируемости, которые мы наблюдаем при работе памяти с сотнями миллионов пользователей и многолетними временными горизонтами» .

Но то, что построили в OpenAI, породило гораздо более коварный вариант проблемы. Теперь контекст гниёт не от переполнения «окна», а изнутри, от самого ядра: как только в перманентный пользовательский профиль попадает ошибка, она тихо отравляет качество всех последующих ответов. Это не классическая потеря информации, а гниение от неверной информации, которую система воспринимает как неоспоримый авторитет. Пользователь может никогда не узнать, почему его ИИ-помощник становится всё хуже — увидеть и легко удалить яд «заражения» он не в силах .