ChatGPT Dreaming V3: Vylepšení paměti, které tiše otravuje každou odpověď

Jak funguje paměťový engine Dreaming V3

Dreaming V3 zcela opouští explicitní seznam uložených vzpomínek. Místo něj na pozadí běží syntetický engine, který po skončení konverzací prochází celou vaši historii chatu a vyvozuje z ní vaše preference, pracovní návyky, osobní omezení a další detaily – to vše bez jakéhokoli ručního příkazu k zapamatování .

Klíčové architektonické změny zahrnují:

• Prohledávání celé historie. Systém již nespoléhá na vámi označené položky – pročítá úplně všechno .
• Odvozené preference. Extrahuje implicitní detaily z nezávazných poznámek a minulého chování, které jste možná nikdy nechtěli ukládat .
• Konsolidace mezi sezeními. Takzvaný „snový“ proces běží offline, řeší rozpory a aktualizuje zastaralé informace .
• Syntetizovaná reprezentace. To, co se ukládá, není doslovný přepis vašich slov, ale komprimovaný, modelem generovaný popis toho, kým jste .

Uživatelé si mohou prohlédnout souhrn paměti v Nastavení, ale základní vrstva nezpracovaných dat není přímo přístupná . To vytváří mezeru v auditu, která se stává kritickou ve chvíli, kdy systém začne dělat chyby.

Testování ZDNet odhalilo rozsáhlé problémy s přesností

Reportér ZDNet David Gewirtz rozsáhle testoval vylepšenou paměť a objevil vážné, systematické problémy s přesností, které se časem kumulují .

• Zastaralé domněnky se stávají trvalými. ChatGPT si uložil staré pracovní pozice, dávno skončené projekty a překonané preference a v každé další interakci s nimi pracoval jako s aktuálními fakty .
• Z malých chyb se stává dogma. Umělá inteligence si zafixuje drobné omyly a přisuzuje jim stejnou váhu jako ověřeným znalostem. Jediný nesprávný detail pak tiše kontaminuje desítky budoucích odpovědí .
• Neviditelné šíření. Chybná paměťová data zkreslují odpovědi bez jakékoli viditelné známky toho, že je něco v nepořádku. Uživatelé si nemusí nikdy uvědomit, že AI pracuje s poškozeným kontextem, dokud se škoda nerozšíří napříč mnoha konverzacemi .
• Detailní, ale nesprávné profily. Systém vytvářel propracované osobní profily, které zněly věrohodně, ale byly chybné, a každou odpověď tak ukotvil na falešných předpokladech .

Gewirtz označil Dreaming V3 za „technický triumf“ spojený s „nezodpovědnou funkcí“ . Hlavní problém není v tom, že AI dělá chyby – ale v tom, že se tato chyba stane trvalou, neviditelnou infrastrukturou pro vše, na co se poté zeptáte.

Mezera v auditu: Co vám OpenAI neukáže

Často kladené dotazy (FAQ) k paměti od OpenAI obsahují tiše zdrcující přiznání: „Zatímco shrnutí paměti by mělo zachytit nejdůležitější detaily, nebude obsahovat vše, co si ChatGPT na základě vašich chatů pamatuje. Pokud chcete vědět, zda si ChatGPT něco zapamatoval, jednoduše se zeptejte v chatu“ .

Stránka se souhrnem paměti je pouze lidsky čitelný přehled syntetizovaného profilu, nikoli kompletní okno do toho, co model skutečně ukládá a používá . To znamená, že uživatelé nemohou plně auditovat, co o nich ChatGPT „ví“, pouze prostřednictvím uživatelského rozhraní nastavení . Museli byste pátrat – žádat AI, aby odhalila své vlastní skryté domněnky o vás – což není ani spolehlivé, ani praktické pro běžné používání.

Proč „prostě to smaž“ problém nevyřeší

Možnosti správy nebo vymazání paměti existují, ale každá z nich má značná omezení.

• Vypnutí paměti nemusí vymazat to, co již bylo uloženo. ZDNet uvádí, že deaktivace této funkce nemusí nutně smazat data, která systém již syntetizoval .
• Ruční mazání je křehké. Uživatelé mohou kontrolovat a mazat jednotlivé položky paměti v Nastavení, ale „snový“ proces si může stejné detaily znovu odvodit z vaší stávající historie chatu při svém příštím spuštění .
• Neustálá automatická re-syntéza. Protože Dreaming V3 neustále znovu syntetizuje kontext, pouhé smazání uvedených vzpomínek nezabrání systému, aby si podobné informace znovu nevyvodil z minulých konverzací .
• Většina uživatelů nebude provádět audit, dokud se něco nerozbije. První viditelný příznak poškozené paměti se často objeví až poté, co otrávená data již ovlivnila mnoho odpovědí .

Nový typ „hniloby kontextu“: Hnití od profilu směrem ven

Takzvaná „hniloba kontextu“ popisuje, jak velké jazykové modely degradují, když se zaplňují jejich kontextová okna – starší informace jsou vytlačovány novějším obsahem a výstupy se vzdalují od skutečné situace uživatele . Dreaming V3 byl explicitně navržen tak, aby proti tomuto problému bojoval napříč sezeními, a řešil tak „výzvy v oblasti zastaralosti, správnosti a škálovatelnosti, které pozorujeme, když je paměť aplikována na stovky milionů uživatelů a mnohaleté časové horizonty v ChatGPT“ .

To, co OpenAI postavilo, však přináší mnohem zákeřnější variantu. Místo aby kontext hnil z přeplněného okna, nyní hnije od středu směrem ven: jakmile se do trvalého uživatelského profilu dostane chyba, tiše degraduje každou další odpověď. Toto není tradiční hniloba kontextu ze ztracených informací – je to hniloba ze špatných informací, které systém považuje za autoritativní. A protože je uživatelé nevidí ani nemohou snadno odstranit, možná nikdy nezjistí, proč jejich AI pomalu, ale jistě ztrácí kvalitu .