ChatGPT Dreaming V3: En hukommelsesopgradering, der i stilhed forgifter alle dine svar

Her er et kig under motorhjelmen – og hvorfor du bør være opmærksom.

Sådan fungerer Dreaming V3s hukommelsesmotor

Dreaming V3 dropper den eksplicitte liste over gemte minder fuldstændigt. I stedet kører der en baggrundsproces, hver gang en samtale er slut. Den scanner hele din chathistorik for at udlede præferencer, arbejdsmønstre, personlige begrænsninger og andre detaljer – helt uden, at du har bedt den om at "huske" noget som helst .

De centrale arkitektoniske ændringer omfatter:

• Scanning af hele historikken. Systemet forlader sig ikke længere på de ting, du selv har markeret – det læser alt .
• Udledte præferencer. Det udvinder implicitte detaljer fra henkastede bemærkninger og tidligere adfærd, som du måske slet ikke havde tænkt dig at gemme .
• Konsolidering mellem samtaler. En drømmeproces kører offline og afstemmer modstridende data og opdaterer forældede fakta .
• En syntetiseret repræsentation. Det, der gemmes, er ikke en ordret udskrift af dine beskeder, men en komprimeret, AI-genereret beskrivelse af, hvem du er .

Du kan se et sammendrag af hukommelsen under Indstillinger, men det underliggende, rå datalag er ikke direkte tilgængeligt . Det skaber et blindt spor, som bliver fatalt, i samme øjeblik systemet tager fejl.

ZDNets test afslørede udbredte fejl

ZDNet-reporteren David Gewirtz testede den opgraderede hukommelse indgående og fandt alvorlige, systematiske præcisionsproblemer, der kun forstærkes over tid .

• Støvede antagelser bider sig fast. ChatGPT gemte gamle jobtitler, udløbne projekter og forældede præferencer og behandlede dem som aktuelle facts i alle efterfølgende interaktioner .
• Små fejl bliver evangelium. AI'en fastlåser bitte små fejltagelser og tilskriver dem den samme sikkerhed som verificeret viden. En enkelt forkert detalje kan dermed forgifte snesevis af fremtidige svar .
• Usynlig fejlspredning. Fejlbehæftet hukommelsesdata forvrænger svarene uden nogen synlig indikation af, at noget er galt. Brugere opdager måske aldrig, at AI'en arbejder ud fra et korrumperet grundlag, før skaden har bredt sig over mange samtaler .
• Detaljerede, men forkerte profiler. Systemet skabte udførlige personlige profiler, som virkede sandsynlige, men som var lodret forkerte – og forankrede dermed alle svar til falske præmisser .

Gewirtz beskrev Dreaming V3 som en "teknisk triumf" parret med en "uansvarlig funktion" . Kerneproblemet er ikke, at AI'en begår fejl – det er, at fejlen muterer til en permanent og usynlig infrastruktur for alt, hvad du spørger om fremover.

Det blinde spor: Hvad OpenAI helst ikke vil vise dig

I OpenAIs FAQ om hukommelsen gemmer der sig en skelsættende indrømmelse: "Selvom hukommelsesoversigten bør fange de vigtigste detaljer, vil den ikke inkludere alt, hvad ChatGPT husker baseret på dine chats. Hvis du vil vide, om ChatGPT har husket noget bestemt, så spørg blot i chatten" .

Hukommelsesoversigten er et menneskevenligt overblik over den syntetiserede profil, ikke et komplet vindue til, hvad modellen reelt lagrer og bruger . Det betyder, at du som bruger ikke kan få et fuldt audit-spor over, hvad ChatGPT "ved" om dig, blot via indstillingsmenuen . Du er tvunget til at gå på fisketur selv – bede AI'en afsløre sine skjulte antagelser om dig – hvilket hverken er pålideligt eller praktisk i det daglige.

Hvorfor "bare slet det" ikke løser problemet

Mulighederne for at administrere eller slette hukommelsen findes ganske vist, men hver især er de behæftet med betydelige begrænsninger:

• At slå hukommelsen fra sletter muligvis ikke det, der allerede er gemt. ZDNet rapporterer, at deaktivering af funktionen ikke nødvendigvis fjerner den data, systemet allerede har syntetiseret .
• Manuel sletning er skrøbelig. Brugere kan gennemgå og slette individuelle hukommelseselementer i Indstillinger, men drømmeprocessen kan sagtens genlære de samme detaljer fra din eksisterende chathistorik, næste gang den kører .
• Løbende automatisk gensyntese. Da Dreaming V3 hele tiden syntetiserer kontekst på ny, forhindrer en simpel sletning af de listede minder ikke systemet i at genudlede lignende information fra dine gamle samtaler .
• De fleste brugere reviderer først, når skaden er sket. Det første synlige tegn på en korrupt hukommelse kommer ofte, længe efter at de forgiftede data allerede har formet en lang række svar .

Den nye form for AI-demens: Når din egen profil rådner op indefra

Begrebet "context rot" (kontekst-forrådnelse) beskriver, hvordan store sprogmodeller begynder at degradere, i takt med at kontekstvinduet fyldes op – ældre information fortrænges simpelthen af nyt, og outputtet glider væk fra din faktiske situation . Dreaming V3 var eksplicit designet til at bekæmpe præcis dette problem på tværs af samtaler og adressere "de udfordringer med forældet data, korrekthed og skalerbarhed, som vi observerer, når hukommelsen anvendes på hundredvis af millioner af brugere over flere år" .

Paradoksalt nok har OpenAI skabt en endnu mere lumsk variant af problemet. I stedet for at din kontekst rådner op, fordi vinduet bliver fyldt, rådner den nu op indefra: Så snart en enkelt fejl sniger sig ind i den vedvarende brugerprofil, forringer den i stilhed kvaliteten af ethvert fremtidigt svar. Dette er ikke klassisk demens fra tabt information – det er demens fra forkert information, som systemet behandler som hellig sandhed. Og fordi brugerne hverken kan se den eller nemt fjerne den, vil de måske aldrig opdage, hvorfor deres AI-assistent stille og roligt bliver dårligere .