ChatGPT Dreaming V3: Minnesuppgraderingen som i tysthet förgiftar varje svar

Så fungerar Dreaming V3:s minnesmotor

Dreaming V3 överger helt den gamla listan över explicit sparade minnen. Istället kör en syntesmotor i bakgrunden efter avslutade konversationer och läser igenom hela din chatthistorik för att dra slutsatser om dina preferenser, arbetsmönster, personliga begränsningar och andra detaljer – allt utan ett enda "kom ihåg"-kommando .

De viktigaste arkitektoniska förändringarna:

• Helhistorisk skanning. Systemet förlitar sig inte längre på saker du har flaggat – det läser allt .
• Härledda preferenser. Det extraherar underförstådda detaljer från vardagliga kommentarer och tidigare beteenden som du kanske aldrig haft för avsikt att lagra .
• Konsolidering mellan sessioner. En "drömprocess" körs offline, löser motsägelser och uppdaterar inaktuella fakta .
• Syntetiserad representation. Det som lagras är inte en ordagrann avskrift av dina ord, utan en komprimerad, modellgenererad beskrivning av vem du är .

Användare kan se en minnessammanfattning i inställningarna, men det underliggande rådatalagret är inte direkt åtkomligt . Det skapar en granskningslucka som blir kritisk när systemet börjar göra fel.

ZDNets tester fann omfattande träffsäkerhetsproblem

ZDNet-reportern David Gewirtz testade det uppgraderade minnet grundligt och hittade allvarliga, systematiska träffsäkerhetsproblem som förvärras över tid .

• Föråldrade antaganden fastnar permanent. ChatGPT sparade gamla jobbtitlar, avslutade projekt och överspelade preferenser och behandlade dem sedan som aktuella fakta i varje efterföljande interaktion .
• Små misstag blir till sanning. AI:n låser fast små felaktigheter och tillämpar samma säkerhet som för verifierad kunskap. En enda felaktig detalj förgiftar sedan i tysthet dussintals framtida svar .
• Osynlig spridning. Felaktig minnesdata förvränger svar utan någon synlig indikation på att något är fel. Användare kanske aldrig inser att AI:n arbetar utifrån förvanskad kontext förrän skadan redan har spridit sig över många konversationer .
• Detaljerade men felaktiga profiler. Systemet skapade elaborerade personliga profiler som var trovärdiga men felaktiga, och förankrade varje svar i falska premisser .

Gewirtz beskrev Dreaming V3 som en "teknisk triumf" parat med en "ansvarslös funktion" . Kärnproblemet är inte att AI:n gör fel – det är att felet blir en permanent, osynlig infrastruktur för allt du frågar om efteråt.

Granskningsluckan: Det OpenAI inte visar dig

OpenAI:s minnes-FAQ innehåller ett diskret förödande medgivande: "Även om minnessammanfattningen bör fånga de viktigaste detaljerna, kommer den inte att innehålla allt som ChatGPT kommer ihåg baserat på dina chattar. Om du vill veta om ChatGPT har kommit ihåg något, fråga bara i chatten" .

Minnessammanfattningssidan är en läsbar översikt av den syntetiserade profilen, inte ett komplett fönster in i vad modellen faktiskt lagrar och använder . Det betyder att användare inte fullt ut kan granska vad ChatGPT "vet" om dem enbart via inställningsgränssnittet . Du skulle behöva fiska – be AI:n avslöja sina egna dolda antaganden om dig – vilket varken är tillförlitligt eller praktiskt för regelbunden användning.

Varför "radera det bara" inte löser problemet

Möjligheter att hantera eller rensa minnet finns, men var och en har betydande begränsningar.

• Att stänga av minnet raderar inte nödvändigtvis det som redan lagrats. ZDNet rapporterade att inaktivering av funktionen inte nödvändigtvis tar bort den data systemet redan har syntetiserat .
• Manuell radering är bräcklig. Användare kan granska och ta bort enskilda minnesposter i Inställningar, men drömprocessen kan lära om samma detaljer från din befintliga chatthistorik nästa gång den körs .
• Pågående automatisk omsyntetisering. Eftersom Dreaming V3 kontinuerligt omsyntetiserar kontext, hindrar inte enbart radering av listade minnen systemet från att dra samma slutsatser igen från tidigare konversationer .
• De flesta användare granskar inte förrän det är för sent. Det första synliga tecknet på korrumperat minne kommer ofta efter att den förgiftade datan redan har format många svar .

Den nya kontextrötans framväxt: Rutten från profilen och utåt

Kontextröta beskriver hur stora språkmodeller försämras när kontextfönster fylls – äldre information trängs undan av nyare innehåll, och utdata glider ifrån användarens faktiska situation . Dreaming V3 var uttryckligen designat för att bekämpa detta problem över sessioner och tackla "de utmaningar med inaktuell information, korrekthet och skalbarhet som vi observerar när minne tillämpas på hundratals miljoner användare och fleråriga tidshorisonter i ChatGPT" .

Men vad OpenAI har byggt introducerar en mer förrädisk variant. Istället för att kontext ruttnar från att ett ändligt fönster fylls, ruttnar den nu från centrum och utåt: när ett fel väl kommer in i den beständiga användarprofilen, försämrar den i tysthet varje svar som följer. Detta är inte traditionell kontextröta från förlorad information – det är röta från felaktig information som systemet behandlar som auktoritativ. Och eftersom användare inte kan se eller enkelt ta bort den, kanske de aldrig förstår varför deras AI sakta blir sämre .