Stiekeme profielen en vervuilde antwoorden: hoe de geheugenupgrade van ChatGPT stilletjes alles wat je typt tegen je gebruikt

Hoe werkt de nieuwe geheugenmotor?

Dreaming V3 neemt rigoureus afscheid van het lijstje met expliciet opgeslagen herinneringen. In plaats daarvan draait er na elk gesprek een achtergrondproces—het zogeheten 'dromen'—dat je volledige chatgeschiedenis doorploegt. Het systeem destilleert hieruit zelfstandig je voorkeuren, werkpatronen, persoonlijke beperkingen en andere details, zonder dat je ooit nog 'onthoud dit voor me' hoeft te typen .

De belangrijkste veranderingen op een rij:

• Analyse van de volledige historie. Het systeem scant álles wat je ooit hebt getypt, niet alleen de dingen die je zelf hebt gemarkeerd .
• Afgeleide voorkeuren. Het pikt impliciete details op uit terloopse opmerkingen en eerder gedrag die je misschien nooit bedoeld had om te bewaren .
• Consolidatie tussen sessies. Het droomproces draait offline, lost tegenstrijdigheden op en werkt verouderde feiten bij .
• Gesynthetiseerd profiel. Wat er uiteindelijk wordt opgeslagen is geen letterlijk transcript van jouw woorden, maar een door het model gecreëerde, gecomprimeerde persoonsbeschrijving .

Gebruikers kunnen via de Instellingen wel een geheugensamenvatting inzien, maar de ruwe onderliggende data blijft aan het zicht onttrokken . Dat creëert een kritiek controlegat op het moment dat het systeem de fout in gaat.

De ZDNet-test: hardnekkige fouten die zich opstapelen

ZDNet-verslaggever David Gewirtz onderwierp het opgewaardeerde geheugen aan een uitgebreide test en stuitte op systematische nauwkeurigheidsproblemen die zich in de loop van de tijd opstapelen .

• Achterhaalde aannames blijven eeuwig plakken. ChatGPT onthield oude functietitels, verlopen projecten en achterhaalde voorkeuren en presenteerde die vervolgens als actuele feiten in elke nieuwe interactie .
• Kleine missers worden heilige waarheden. De AI zet een stolp op kleine foutjes en hanteert daarbij dezelfde stelligheid als bij geverifieerde feiten. Een enkel onjuist detail vervuilt zo geruisloos tientallen toekomstige antwoorden .
• Onzichtbare doorwerking. Vervuilde geheugendata vervormt antwoorden zonder enige zichtbare indicatie dat er iets mis is. Gebruikers realiseren zich soms niet dat de AI werkt met gecorrumpeerde context totdat de schade al gespreid is over vele conversaties .
• Gedetailleerde maar foute profielen. Het systeem stelde uitgebreide persoonsprofielen op die plausibel maar onjuist waren en verankerde elk antwoord aan valse premissen .

Gewirtz omschreef Dreaming V3 als een 'technisch hoogstandje' gekoppeld aan een 'onverantwoordelijke functie' . Het kernprobleem is niet dat de AI fouten maakt—het is dat de fout permanente, onzichtbare infrastructuur wordt voor alles wat je daarna vraagt.

Het controlegat: wat OpenAI je níet laat zien

In OpenAI's officiële Memory FAQ staat een veelzeggende disclaimer: "Hoewel de geheugensamenvatting de belangrijkste details zou moeten bevatten, omvat deze niet álles wat ChatGPT op basis van je chats heeft onthouden. Als je wilt weten of ChatGPT iets heeft onthouden, vraag het dan gewoon in de chat" .

De samenvattingspagina in je instellingen is dus slechts een overzichtelijke samenvatting van het gesynthetiseerde profiel en geen compleet venster op wat het model werkelijk opslaat en gebruikt . Dat betekent dat gebruikers via de instellingen-UI nooit volledig kunnen controleren wat ChatGPT daadwerkelijk over hen 'weet' . Je bent gedwongen om zelf te gaan vissen door de AI te vragen zijn eigen verborgen aannames over jou te onthullen—een methode die noch betrouwbaar, noch praktisch is voor dagelijks gebruik.

Waarom 'gewoon verwijderen' het probleem niet oplost

Er bestaan opties om het geheugen te beheren of te wissen, maar elk met aanzienlijke beperkingen.

• Geheugen uitschakelen wist mogelijk niet wat al is opgeslagen. ZDNet meldde dat het uitschakelen van de functie de data die het systeem al heeft verwerkt niet noodzakelijkerwijs wist .
• Handmatig wissen is fragiel. Gebruikers kunnen individuele geheugenitems in de Instellingen bekijken en wissen, maar het droomproces kan dezelfde details gewoon opnieuw leren uit je bestaande chatgeschiedenis de volgende keer dat het draait .
• Voortdurende automatische hersynthese. Omdat Dreaming V3 continu context opnieuw samenstelt, voorkomt het simpelweg wissen van vermelde herinneringen niet dat het systeem gelijkaardige informatie opnieuw afleidt uit eerdere gesprekken .
• De meeste gebruikers controleren pas als het misgaat. Het eerste zichtbare teken van een gecorrumpeerd geheugen komt vaak pas nadat de vervuilde data al talloze antwoorden heeft gevormd .

De nieuwe Context Rot: verrotting vanuit het hart

'Context rot' beschrijft het fenomeen waarbij de prestaties van een AI-model degraderen naarmate het contextvenster voller raakt—oudere informatie wordt verdrongen door nieuwere inhoud en de uitvoer drijft weg van de werkelijke situatie van de gebruiker . Dreaming V3 is expliciet ontworpen om dit probleem over meerdere sessies te bestrijden, om "de verouderings-, correctheids- en schaalbaarheidsuitdagingen aan te pakken die we zien wanneer geheugen wordt toegepast op honderden miljoenen gebruikers en tijdsbestekken van meerdere jaren in ChatGPT" .

Maar wat OpenAI heeft gebouwd, introduceert een verraderlijkere variant van context rot. In plaats van dat de context van buitenaf verrot, rot het systeem nu van binnenuit: zodra een fout het hardnekkige gebruikersprofiel binnendringt, verstoort het geruisloos elk antwoord dat volgt. Dit is geen traditionele context rot door verloren informatie—het is verrotting door foute informatie die het systeem als gezaghebbend beschouwt. En omdat gebruikers het niet kunnen zien of makkelijk verwijderen, zullen ze misschien nooit weten waarom hun AI-assistent stilletjes slechter wordt .