ChatGPT Dreaming V3: Ulepszenie pamięci, które po cichu zatruwa każdą odpowiedź

Oto, co naprawdę dzieje się pod maską – i dlaczego powinno Cię to zaniepokoić.

Jak działa silnik pamięci Dreaming V3

Dreaming V3 całkowicie porzuca jawną listę zapisanych wspomnień. W zamian, po zakończeniu rozmowy uruchamiany jest proces syntezy w tle, który analizuje pełną historię czatów użytkownika, by wywnioskować preferencje, wzorce pracy, osobiste ograniczenia i inne szczegóły – wszystko bez ręcznego polecenia „zapamiętaj to” .

Kluczowe zmiany architektoniczne obejmują:

• Skanowanie pełnej historii. System nie polega już na elementach, które sam oznaczyłeś – czyta wszystko .
• Wnioskowane preferencje. Wyciąga ukryte szczegóły z przypadkowych uwag i wcześniejszych zachowań, których być może nigdy nie chciałeś zapisywać .
• Konsolidacja między sesjami. Proces „śnięcia” (ang. dreaming) działa offline, rozwiązując sprzeczności i aktualizując nieaktualne fakty .
• Syntetyczna reprezentacja. To, co jest przechowywane, nie jest dosłownym zapisem Twoich słów, ale skompresowanym, wygenerowanym przez model opisem tego, kim jesteś .

Użytkownicy mogą przeglądać podsumowanie pamięci w Ustawieniach, ale bazowa warstwa surowych danych nie jest bezpośrednio udostępniana . Tworzy to lukę audytową, która staje się krytyczna, gdy system zaczyna się mylić.

Testy ZDNet wykazały powszechne awarie dokładności

Reporter ZDNet, David Gewirtz, przetestował ulepszoną pamięć i znalazł poważne, systematyczne problemy z dokładnością, które z czasem się pogłębiają .

• Nieaktualne założenia trwają na stałe. ChatGPT przechowywał stare tytuły zawodowe, zakończone projekty i nieaktualne preferencje, a następnie traktował je jako bieżące fakty w każdej kolejnej interakcji .
• Drobne błędy stają się dogmatem. AI blokuje małe pomyłki i stosuje do nich tę samą pewność, co do zweryfikowanej wiedzy. Pojedynczy nieprawidłowy szczegół po cichu zatruwa dziesiątki przyszłych odpowiedzi .
• Niewidoczna propagacja. Wadliwe dane pamięci zniekształcają odpowiedzi bez żadnej widocznej oznaki, że coś jest nie tak. Użytkownicy mogą nigdy nie zdawać sobie sprawy, że AI pracuje na uszkodzonym kontekście, dopóki szkody nie rozprzestrzenią się na wiele rozmów .
• Szczegółowe, ale błędne profile. System tworzył rozbudowane profile osobiste, które były prawdopodobne, ale błędne, zakotwiczając każdą odpowiedź w fałszywych przesłankach .

Gewirtz opisał Dreaming V3 jako „triumf techniczny” połączony z „nieodpowiedzialną funkcją” . Podstawowy problem nie polega na tym, że AI popełnia błędy – chodzi o to, że błąd staje się trwałą, niewidoczną infrastrukturą dla wszystkiego, o co zapytasz później.

Luka audytowa: Czego OpenAI Ci nie pokaże

W FAQ dotyczącym pamięci OpenAI znajduje się ciche, druzgocące przyznanie: „Chociaż podsumowanie pamięci powinno obejmować najważniejsze szczegóły, nie będzie zawierać wszystkiego, co ChatGPT pamięta na podstawie Twoich czatów. Jeśli chcesz wiedzieć, czy ChatGPT coś zapamiętał, po prostu zapytaj go na czacie” .

Strona z podsumowaniem pamięci to czytelny dla człowieka przegląd syntetycznego profilu, a nie pełne okno na to, co model faktycznie przechowuje i wykorzystuje . Oznacza to, że użytkownicy nie mogą w pełni kontrolować tego, co ChatGPT o nich „wie”, korzystając jedynie z interfejsu ustawień . Musisz „łowić” – prosić AI o ujawnienie własnych, ukrytych założeń na Twój temat – co nie jest ani niezawodne, ani praktyczne do regularnego użytku.

Dlaczego „po prostu to usuń” nie rozwiązuje problemu

Istnieją opcje zarządzania lub czyszczenia pamięci, ale każda z nich ma poważne ograniczenia.

• Wyłączenie pamięci może nie usuwać już zapisanych danych. ZDNet poinformowało, że dezaktywacja funkcji niekoniecznie kasuje dane, które system już zsyntezował .
• Ręczne usuwanie jest zawodne. Użytkownicy mogą przeglądać i usuwać pojedyncze wpisy w Ustawieniach, ale proces „śniący” może ponownie wyciągnąć te same szczegóły z Twojej historii czatów przy następnym uruchomieniu .
• Ciągła automatyczna resynteza. Ponieważ Dreaming V3 nieustannie resyntezuje kontekst, samo usunięcie wymienionych wspomnień nie zapobiega ponownemu wywnioskowaniu przez system podobnych informacji z przeszłych rozmów .
• Większość użytkowników nie będzie audytować, dopóki system się nie zepsuje. Pierwsza widoczna oznaka uszkodzonej pamięci często pojawia się, gdy zatrute dane ukształtowały już wiele odpowiedzi .

Nowy rodzaj gnicia kontekstu: Gnicie od profilu na zewnątrz

Gnicie kontekstu (ang. context rot) opisuje, jak wielkie modele językowe degradują się, gdy okna kontekstowe się zapełniają – starsze informacje są wypierane przez nowsze treści, a odpowiedzi oddalają się od rzeczywistej sytuacji użytkownika . Dreaming V3 został zaprojektowany właśnie po to, by zwalczać ten problem między sesjami, mierząc się z „wyzwaniami związanymi z nieaktualnością, poprawnością i skalowalnością, które obserwujemy, gdy pamięć jest stosowana dla setek milionów użytkowników i wieloletnich horyzontów czasowych w ChatGPT” .

Jednak to, co zbudowało OpenAI, wprowadza bardziej podstępny wariant. Zamiast gnicia kontekstu spowodowanego wypełnianiem się skończonego okna, teraz gnije on od środka na zewnątrz: gdy błąd dostanie się do trwałego profilu użytkownika, po cichu degraduje każdą kolejną odpowiedź. Nie jest to tradycyjna utrata informacji na skutek zapominania – to zgnilizna wynikająca z błędnej informacji, którą system traktuje jako autorytatywną. A ponieważ użytkownicy nie mogą jej łatwo zobaczyć ani usunąć, mogą nigdy nie dowiedzieć się, dlaczego ich AI stopniowo staje się coraz gorsza .