ChatGPTs neue Gedächtnisfunktion: Warum Dreaming V3 Ihre Antworten heimlich vergiftet

Hier erfahren Sie, was tatsächlich im Hintergrund passiert – und warum Sie besorgt sein sollten.

So funktioniert die Gedächtnis-Engine von Dreaming V3

Dreaming V3 verabschiedet sich vollständig von der expliziten Liste gespeicherter Erinnerungen. Stattdessen läuft eine Hintergrund-Synthese-Engine nach Gesprächsende und analysiert den gesamten Chat-Verlauf eines Nutzers, um Vorlieben, Arbeitsmuster, persönliche Einschränkungen und andere Details abzuleiten – ganz ohne einen manuellen „Erinnere dich daran“-Befehl .

Die wichtigsten architektonischen Änderungen umfassen:

• Analyse des gesamten Verlaufs. Das System stützt sich nicht mehr nur auf von Ihnen markierte Elemente – es liest einfach alles .
• Abgeleitete Präferenzen. Es extrahiert implizite Details aus beiläufigen Bemerkungen und vergangenem Verhalten, die Sie vielleicht nie speichern wollten .
• Konsolidierung zwischen Sitzungen. Ein „Dreaming“-Prozess läuft offline, löst Widersprüche auf und aktualisiert veraltete Fakten .
• Synthetisierte Darstellung. Was gespeichert wird, ist keine wörtliche Abschrift Ihrer Worte, sondern eine komprimierte, vom Modell generierte Beschreibung dessen, wer Sie sind .

Nutzer können eine Gedächtnis-Zusammenfassung in den Einstellungen einsehen, aber die zugrunde liegende Rohdatenebene wird nicht direkt offengelegt . Dadurch entsteht eine Prüflücke, die kritisch wird, wenn das System anfängt, Fehler zu machen.

ZDNet-Tests deckten weitverbreitete Genauigkeitsfehler auf

ZDNet-Reporter David Gewirtz testete das verbesserte Gedächtnis ausführlich und fand schwerwiegende, systematische Genauigkeitsprobleme, die sich mit der Zeit akkumulieren .

• Veraltete Annahmen bleiben dauerhaft haften. ChatGPT speicherte alte Berufsbezeichnungen, abgelaufene Projekte und überholte Präferenzen und behandelte sie dann in jeder weiteren Interaktion als aktuelle Tatsachen .
• Aus kleinen Fehlern werden Dogmen. Die KI fixiert kleine Fehler und wendet dieselbe Verlässlichkeit an wie bei verifiziertem Faktenwissen. Ein einziges falsches Detail verschmutzt dann stillschweigend Dutzende zukünftiger Antworten .
• Unsichtbare Ausbreitung. Fehlerhafte Speicherdaten verzerren Antworten, ohne dass es einen sichtbaren Hinweis darauf gibt, dass etwas nicht stimmt. Nutzer bemerken möglicherweise nie, dass die KI von einem fehlerhaften Kontext aus arbeitet, bis der Schaden sich bereits über viele Konversationen ausgebreitet hat .
• Detaillierte, aber falsche Profile. Das System erstellte ausgefeilte persönliche Profile, die plausibel, aber falsch waren, und verankerte jede Antwort in falschen Prämissen .

Gewirtz beschrieb Dreaming V3 als einen "technischen Triumph", gepaart mit einer "unverantwortlichen Funktion" . Das Kernproblem ist nicht, dass die KI Fehler macht – es ist, dass der Fehler zu einer dauerhaften, unsichtbaren Infrastruktur für alles wird, was Sie danach fragen.

Die Prüflücke: Was OpenAI Ihnen nicht zeigt

Die Gedächtnis-FAQ von OpenAI enthält ein leise vernichtendes Eingeständnis: „Während die Speicherzusammenfassung die wichtigsten Details erfassen sollte, wird sie nicht alles enthalten, woran sich ChatGPT aufgrund Ihrer Chats erinnert. Wenn Sie wissen möchten, ob ChatGPT sich an etwas erinnert hat, fragen Sie einfach im Chat nach“ .

Die Speicherzusammenfassung ist eine für Menschen lesbare Übersicht des synthetisierten Profils, kein vollständiges Fenster in das, was das Modell tatsächlich speichert und verwendet . Das bedeutet, dass Nutzer nicht allein über die Einstellungsoberfläche vollständig prüfen können, was ChatGPT über sie „weiß“ . Sie müssten aufwendig nachforschen – die KI bitten, ihre eigenen versteckten Annahmen über Sie preiszugeben –, was weder zuverlässig noch für den regelmäßigen Gebrauch praktikabel ist.

Warum „Einfach löschen“ das Problem nicht löst

Es gibt Optionen zum Verwalten oder Bereinigen des Speichers, aber jede hat erhebliche Einschränkungen.

• Das Ausschalten des Speichers löscht möglicherweise nicht das bereits Gespeicherte. ZDNet berichtete, dass das Deaktivieren der Funktion nicht unbedingt die Daten löscht, die das System bereits synthetisiert hat .
• Manuelles Löschen ist anfällig. Nutzer können einzelne Speichereinträge in den Einstellungen überprüfen und löschen, aber der Dreaming-Prozess kann dieselben Details beim nächsten Lauf aus Ihrem bestehenden Chat-Verlauf erneut erlernen .
• Fortlaufende automatische Neusynthese. Da Dreaming V3 den Kontext kontinuierlich neu synthetisiert, verhindert das bloße Löschen aufgelisteter Erinnerungen nicht, dass das System ähnliche Informationen aus vergangenen Gesprächen erneut ableitet .
• Die meisten Nutzer prüfen erst, wenn es zu spät ist. Das erste sichtbare Anzeichen eines fehlerhaften Speichers tritt oft erst auf, nachdem die vergifteten Daten bereits viele Antworten beeinflusst haben .

Die neue Form des Kontextzerfalls: Vom Profil aus zersetzend

Kontextzerfall (Context Rot) beschreibt, wie große Sprachmodelle an Leistung verlieren, wenn sich das Kontextfenster füllt – ältere Informationen werden durch neuere verdrängt und die Ausgaben driften von der tatsächlichen Situation des Nutzers ab . Dreaming V3 wurde explizit entwickelt, um dieses Problem sitzungsübergreifend zu bekämpfen und die „Probleme der Veralterung, Korrektheit und Skalierbarkeit anzugehen, die wir beobachten, wenn der Speicher auf Hunderte Millionen Nutzer und mehrjährige Zeithorizonte in ChatGPT angewandt wird“ .

Doch was OpenAI gebaut hat, führt eine heimtückischere Variante ein. Anstatt dass der Kontext durch ein sich füllendes, endliches Fenster verfällt, verfällt er nun vom Zentrum aus nach außen: Sobald ein Fehler in das dauerhafte Nutzerprofil eingeht, verschlechtert er still jede nachfolgende Antwort. Dies ist kein traditioneller Kontextzerfall durch verlorene Informationen – es ist Zerfall durch falsche Informationen, die das System als maßgeblich behandelt. Und weil Nutzer sie weder sehen noch einfach entfernen können, wissen sie vielleicht nie, warum ihre KI langsam schlechter wird .