Dreaming V3 : L'incroyable nouveau souvenir de ChatGPT et son poison invisible

Voici le décryptage de ce qui se passe en coulisses, et pourquoi vous devez vous en inquiéter.

Comment fonctionne le moteur de mémoire Dreaming V3

Dreaming V3 abandonne totalement la liste de souvenirs sauvegardés manuellement. À la place, un moteur de synthèse s'active à la fin de chaque conversation. Il analyse l'ensemble de l'historique de l'utilisateur pour en déduire ses habitudes de travail, ses préférences, ses contraintes personnelles — et ce, sans aucune commande manuelle .

Voici les principaux changements architecturaux :

• Analyse de l'historique complet. Le système ne se limite plus aux éléments que vous avez explicitement demandé de mémoriser : il lit absolument tout .
• Inférence de préférences. L'IA extrait des détails implicites de vos remarques anodines et de vos comportements passés, que vous n'aviez peut-être jamais eu l'intention de stocker .
• Consolidation « hors ligne ». Un processus de « rêve » s'exécute entre les sessions pour résoudre les contradictions et mettre à jour les informations obsolètes .
• Représentation synthétisée. Ce qui est stocké n'est pas une retranscription de vos conversations, mais une description compressée de votre profil, générée par l'IA elle-même .

Les utilisateurs peuvent consulter un résumé de leur mémoire dans les paramètres, mais la couche de données brutes sous-jacente n'est pas directement accessible . Cette opacité devient un problème critique lorsque le système commence à se tromper.

Les tests de ZDNet révèlent des défaillances de précision généralisées

Le journaliste David Gewirtz, de ZDNet, a testé cette mémoire améliorée de manière intensive et a découvert des problèmes de précision graves et systématiques, dont les effets s'aggravent avec le temps .

• Les suppositions dépassées persistent indéfiniment. ChatGPT a stocké d'anciens titres de poste, des projets terminés et des préférences caduques, puis les a traités comme des faits actuels dans chaque interaction suivante .
• Les petites erreurs deviennent parole d'évangile. L'IA bloque les petites inexactitudes et leur applique le même niveau de confiance qu'à un savoir vérifié. Un seul détail erroné contamine alors silencieusement des dizaines de futures réponses .
• Une propagation invisible. Les données mémorielles erronées déforment les réponses sans aucun signe visible d'un dysfonctionnement. L'utilisateur peut ne jamais se rendre compte que l'IA travaille à partir d'un contexte corrompu, jusqu'à ce que le mal soit déjà fait dans de nombreuses conversations .
• Des profils détaillés… mais faux. Le système a créé des profils personnels élaborés, plausibles mais incorrects, ancrant chacune de ses réponses à des prémisses fausses .

Gewirtz a décrit Dreaming V3 comme un « triomphe technique » doublé d'une « fonctionnalité irresponsable » . Le cœur du problème n'est pas que l'IA puisse faire une erreur, c'est que cette erreur devienne l'infrastructure permanente et invisible de tout ce que vous lui demanderez par la suite.

L'angle mort de l'audit : ce qu'OpenAI ne vous montrera pas

La FAQ sur la mémoire d'OpenAI contient un aveu aussi discret que dévastateur : « Bien que le résumé de mémoire devrait capturer les détails les plus importants, il n'inclura pas tout ce dont ChatGPT se souvient en se basant sur vos conversations. Si vous voulez savoir si ChatGPT a mémorisé quelque chose, demandez-lui simplement durant la conversation » .

La page de résumé est un aperçu compréhensible par un humain du profil synthétisé, et non une fenêtre complète sur ce que le modèle stocke et utilise réellement . Conséquence directe : il est impossible pour un utilisateur de savoir avec certitude tout ce que ChatGPT « sait » de lui en passant par la seule interface des paramètres . Vous devriez aller à la pêche, en demandant à l'IA de vous révéler elle-même ce qu'elle suppose à votre sujet, une méthode peu fiable et totalement inapplicable au quotidien.

Pourquoi « Supprimer » ne suffit pas

Des options existent pour gérer ou purger cette mémoire, mais elles comportent toutes des limites significatives.

• Désactiver la mémoire peut ne pas effacer ce qui est déjà stocké. ZDNet rapporte que désactiver la fonctionnalité ne supprime pas nécessairement les données que le système a déjà synthétisées .
• La suppression manuelle est fragile. L'utilisateur peut passer en revue et supprimer des entrées de mémoire depuis les paramètres, mais le processus de « rêve » peut ré-apprendre les mêmes détails à partir de votre historique de conversations la prochaine fois qu'il s'exécute .
• Re-synthèse automatique continue. Comme Dreaming V3 re-synthétise le contexte en continu, supprimer les souvenirs listés n'empêche pas le système de déduire à nouveau des informations similaires à partir de vos conversations passées .
• L'audit intervient toujours trop tard. Le premier signe visible d'une mémoire corrompue apparaît généralement après que les données empoisonnées ont déjà influencé et faussé un grand nombre de vos réponses .

La nouvelle pourriture du contexte : une contamination depuis le centre

Le « context rot » (ou pourriture du contexte) décrit comment les grands modèles de langage se dégradent à mesure que leur fenêtre de contexte se remplit : l'information la plus ancienne est chassée par le nouveau contenu, et les réponses finissent par ne plus correspondre à la situation réelle de l'utilisateur .

Dreaming V3 a été conçu spécifiquement pour combattre ce problème entre les sessions, en s'attaquant « aux défis d'obsolescence, de justesse et de scalabilité que nous observons lorsque la mémoire est appliquée à des centaines de millions d'utilisateurs sur des horizons de plusieurs années dans ChatGPT » .

Mais ce qu'OpenAI a construit introduit une variante bien plus insidieuse. Au lieu que le contexte pourrisse à cause d'une fenêtre qui arrive à saturation, il pourrit désormais du centre vers l'extérieur. Une fois qu'une erreur est entrée dans votre profil utilisateur persistant, elle dégrade sans bruit toutes les réponses qui suivent. Il ne s'agit pas d'une pourriture classique par perte d'information, mais d'une pourriture par information erronée, que le système traite comme une source d'autorité. Et puisque les utilisateurs ne peuvent ni la voir ni s'en débarrasser facilement, ils risquent de ne jamais comprendre pourquoi leur assistant IA devient lentement moins bon .