ChatGPT Dreaming V3: Como a nova memória 'inteligente' está criando perfis falsos e distorcendo suas conversas

Aqui está o que realmente está acontecendo nos bastidores — e por que você deveria se preocupar.

Como Funciona o Motor de Memória Dreaming V3

O Dreaming V3 abandona completamente a lista explícita de memórias salvas. Em vez disso, um motor de síntese em segundo plano é executado após o término das conversas, lendo todo o histórico de bate-papo do usuário para inferir preferências, padrões de trabalho, restrições pessoais e outros detalhes — tudo isso sem que você precise mandar o sistema "lembrar" de algo .

As principais mudanças na arquitetura incluem:

• Varredura do histórico completo. O sistema não depende mais de itens que você sinalizou — ele lê absolutamente tudo .
• Preferências inferidas. Ele extrai detalhes implícitos de comentários casuais e comportamentos passados que você talvez nunca tenha tido a intenção de armazenar .
• Consolidação entre sessões. Um processo de dreaming (sonhar) roda offline, resolvendo contradições e atualizando fatos obsoletos .
• Representação sintetizada. O que fica armazenado não é uma transcrição literal das suas palavras, mas uma descrição comprimida, gerada pelo modelo, de quem você é .

Os usuários podem ver um resumo da memória nas Configurações, mas a camada de dados brutos subjacente não é diretamente acessível . Isso cria uma falha de auditoria que se torna crítica quando o sistema começa a errar.

Testes do ZDNet Encontraram Falhas de Precisão Generalizadas

O repórter David Gewirtz testou a memória atualizada de forma extensiva e encontrou problemas de precisão sérios e sistemáticos que se agravam com o tempo .

• Suposições desatualizadas grudam para sempre. O ChatGPT armazenou cargos antigos, projetos encerrados e preferências já superadas, tratando-os como fatos atuais em todas as interações subsequentes .
• Pequenos erros viram evangelho. A IA fixa deslizes mínimos e aplica a eles a mesma confiança que usa para conhecimento factual verificado. Um único detalhe incorreto então polui silenciosamente dezenas de respostas futuras .
• Propagação invisível. Dados de memória falhos distorcem as respostas sem qualquer indicação visível de que algo está errado. Os usuários podem nunca perceber que a IA está trabalhando com um contexto corrompido até que o dano já tenha se espalhado por muitas conversas .
• Perfis detalhados, mas incorretos. O sistema criou perfis pessoais elaborados que eram plausíveis, porém errados, ancorando cada resposta em premissas falsas .

Gewirtz descreveu o Dreaming V3 como um "triunfo técnico" combinado com um "recurso irresponsável" . O problema central não é que a IA cometa erros — é que o erro se transforma numa infraestrutura permanente e invisível para tudo o que você perguntar depois.

A Falha de Auditoria: O Que a OpenAI Não Mostra a Você

O FAQ de Memória da OpenAI contém uma admissão discretamente devastadora: "Embora o resumo da memória deva capturar os detalhes mais importantes, ele não incluirá tudo o que o ChatGPT lembra com base em seus chats. Se você quiser saber se o ChatGPT se lembrou de algo, basta perguntar no chat" .

A página de resumo é uma visão geral legível do perfil sintetizado, não uma janela completa para o que o modelo realmente armazena e usa . Isso significa que os usuários não podem auditar totalmente o que o ChatGPT "sabe" sobre eles apenas pela interface de configurações . Você teria que "ir pescar" — perguntando à IA para revelar suas próprias suposições ocultas sobre você — o que não é confiável nem prático para o uso regular.

Por Que "É Só Apagar" Não Resolve o Problema

Existem opções para gerenciar ou limpar a memória, mas cada uma carrega limitações significativas.

• Desativar a memória pode não apagar o que já foi armazenado. O ZDNet relatou que desabilitar o recurso não necessariamente deleta os dados que o sistema já sintetizou .
• A exclusão manual é frágil. Os usuários podem revisar e deletar entradas de memória individuais nas Configurações, mas o processo de dreaming pode re-aprender os mesmos detalhes do seu histórico de conversas na próxima vez que for executado .
• Re-síntese automática contínua. Como o Dreaming V3 re-sintetiza o contexto continuamente, simplesmente deletar as memórias listadas não impede o sistema de re-inferir informações semelhantes a partir de conversas passadas .
• A maioria dos usuários só vai auditar quando quebrar. O primeiro sinal visível de uma memória corrompida geralmente vem depois que os dados envenenados já moldaram muitas respostas .

O Novo "Context Rot": Apodrecendo de Dentro para Fora

Context rot (apodrecimento do contexto) descreve como grandes modelos de linguagem se degradam à medida que a janela de contexto se enche — informações mais antigas são deslocadas por conteúdo mais novo, e as respostas começam a se afastar da situação real do usuário . O Dreaming V3 foi explicitamente projetado para combater esse problema entre sessões, enfrentando "os desafios de obsolescência, correção e escalabilidade que observamos quando a memória é aplicada a centenas de milhões de usuários e horizontes de tempo de vários anos no ChatGPT" .

Mas o que a OpenAI construiu introduz uma variante mais insidiosa. Em vez de o contexto apodrecer porque uma janela finita se encheu, agora ele apodrece do centro para fora: uma vez que um erro entra no perfil de usuário persistente, ele degrada silenciosamente cada resposta seguinte. Isso não é o context rot tradicional por perda de informação — é a podridão que vem de uma informação errada que o sistema trata como autoridade. E como os usuários não podem vê-la ou removê-la facilmente, talvez nunca saibam por que sua IA está, lentamente, ficando pior .