ChatGPT Dreaming V3: Minneoppgraderingen som sakte forgifter svarene dine

Slik fungerer Dreaming V3s minnemotor

Dreaming V3 forlater fullstendig den eksplisitte listen over lagrede minner. I stedet kjører en syntesemotor i bakgrunnen etter at samtaler er avsluttet. Den leser gjennom hele brukerens chattehistorikk for å utlede preferanser, arbeidsmønstre, personlige begrensninger og andre detaljer – helt uten en eneste manuell «husk dette»-kommando .

De viktigste arkitektoniske endringene inkluderer:

• Skanning av full historikk. Systemet baserer seg ikke lenger på elementer du har flagget – det leser absolutt alt .
• Utledede preferanser. Det trekker ut implisitte detaljer fra uformelle bemerkninger og tidligere atferd som du kanskje aldri hadde til hensikt å lagre .
• Konsolidering mellom økter. En såkalt «drømmeprosess» kjører offline, løser motsetninger og oppdaterer utdaterte fakta .
• Syntetisert representasjon. Det som lagres er ikke en ordrett utskrift av dine ord, men en komprimert, modellgenerert beskrivelse av hvem du er .

Brukere kan se et minnesammendrag i Innstillinger, men det underliggende, rå datalaget er ikke direkte tilgjengelig . Dette skaper et kontrollgap som blir kritisk i det øyeblikket systemet begynner å ta feil.

ZDNets testing avdekket omfattende feil

ZDNet-reporter David Gewirtz testet det oppgraderte minnet grundig og fant alvorlige, systematiske nøyaktighetsproblemer som forsterkes over tid .

• Utdaterte antakelser setter seg fast for godt. ChatGPT lagret gamle stillingstitler, utløpte prosjekter og utdaterte preferanser, for så å behandle dem som aktuelle fakta i hver påfølgende interaksjon .
• Småfeil blir til vedtatte sannheter. KI-en låser fast små feil og gir dem samme tyngde som verifisert kunnskap. En enkelt, gal detalj forgifter deretter lydløst dusinvis av fremtidige svar .
• Usynlig spredning. Feilaktige minnedata forvrenger svar uten noen synlig indikasjon på at noe er galt. Brukere forstår kanskje aldri at KI-en jobber ut fra en korrupt kontekst før skaden allerede har spredt seg over mange samtaler .
• Detaljerte, men feilaktige profiler. Systemet skapte omfattende personlige profiler som virket plausible, men som var riv ruskende gale, og forankret alle svar i falske premisser .

Gewirtz beskrev Dreaming V3 som en «teknisk triumf» kombinert med en «uansvarlig funksjon» . Kjerneproblemet er ikke at KI-en gjør feil – det er at feilen blir en permanent, usynlig infrastruktur for alt du spør om i ettertid.

Kontrollgapet: Det OpenAI ikke vil vise deg

OpenAI sin «Ofte stilte spørsmål»-side om minne inneholder en stillferdig, ødeleggende innrømmelse: «Selv om minnesammendraget skal fange opp de viktigste detaljene, vil det ikke inkludere alt ChatGPT husker basert på samtalene dine. Hvis du vil vite om ChatGPT har husket noe, er det bare å spørre i chatten» .

Minnesammendrag-siden er en lesbar oversikt over den syntetiserte profilen, ikke et komplett vindu inn i hva modellen faktisk lagrer og bruker . Det betyr at brukere ikke kan revidere alt ChatGPT «vet» om dem gjennom innstillingene alene . Du må ut på en fisketur – spørre KI-en om å avsløre sine egne skjulte antakelser om deg – noe som verken er pålitelig eller praktisk i daglig bruk.

Hvorfor «bare slett det» ikke løser problemet

Alternativer for å administrere eller tømme minnet finnes, men alle har betydelige begrensninger.

• Å skru av minnet sletter kanskje ikke det som allerede er lagret. ZDNet rapporterte at deaktivering av funksjonen ikke nødvendigvis sletter dataene systemet allerede har syntetisert .
• Manuell sletting er skjør. Brukere kan gjennomgå og slette enkeltminner i Innstillinger, men drømmeprosessen kan lære seg de samme detaljene på nytt fra din eksisterende chattehistorikk neste gang den kjører .
• Kontinuerlig, automatisk re-syntese. Fordi Dreaming V3 kontinuerlig syntetiserer kontekst på nytt, vil det å bare slette listede minner ikke forhindre systemet i å utlede lignende informasjon fra tidligere samtaler .
• De færreste reviderer før det er for sent. Det første synlige tegnet på korrupt minne kommer ofte etter at de forgiftede dataene allerede har formet mange svar .

Den nye kontekst-råten: Råtner fra profilen og utover

Kontekst-råte (context rot) beskriver hvordan store språkmodeller forringes etter hvert som kontekstvinduet fylles opp – eldre informasjon fortrenges av nytt innhold, og svarene fjerner seg fra brukerens faktiske situasjon . Dreaming V3 ble eksplisitt designet for å bekjempe dette problemet på tvers av økter, og takle «de staleness-, korrekthets- og skalerbarhetsutfordringene vi observerer når minne brukes på hundrevis av millioner brukere og over flere år i ChatGPT» .

Men det OpenAI har bygget, introduserer en mer snikende variant. I stedet for at konteksten råtner fordi et begrenset vindu fylles opp, råtner den nå fra sentrum og utover: idet en feil kommer inn i den vedvarende brukerprofilen, forringer den lydløst ethvert svar som følger. Dette er ikke tradisjonell kontekst-råte fra tapt informasjon – det er råte fra feil informasjon som systemet behandler som autoritativ. Og fordi brukere verken kan se eller enkelt fjerne den, vil de kanskje aldri forstå hvorfor KI-assistenten deres sakte, men sikkert blir dårligere .