Najbardziej niepokojącą kwestią związaną z prywatnością jest jednostronne działanie systemu. W lutym 2026 roku na platformie arXiv opublikowano artykuł „The Algorithmic Self-Portrait” autorstwa Abhiseka Dasha i współpracowników, zaakceptowany na konferencję ACM Web Conference 2026, w którym przeanalizowano 2050 wpisów pamięci od 80 użytkowników ChatGPT. Badanie wykazało, że 96% wspomnień „jest tworzonych jednostronnie przez system konwersacyjny”, a nie na podstawie wyraźnego polecenia użytkownika . Ten sam zbiór danych ujawnił, że 28% wygenerowanych przez system wpisów zawierało dane osobowe w rozumieniu RODO, a 52% zawierało psychologiczne spostrzeżenia na temat użytkownika
. Rodzi to natychmiastowe pytania o zgodę i profilowanie w świetle przepisów takich jak RODO oraz unijny Akt w sprawie sztucznej inteligencji (AI Act), który wchodzi w życie w sierpniu 2026 roku
.
Wadliwy system pamięci nie tylko zapomina — aktywnie psuje przyszłe interakcje. OpenAI podaje, że dokładność przypominania faktów przez Dreaming V3 wzrosła do 82,8%, co jest znaczącym skokiem w porównaniu z 41,5% dokładnością oryginalnego systemu z 2024 roku . Oznacza to jednak, że mniej więcej 1 na 6 zapisanych wspomnień może być nieprawidłowy. Zagrożenie jest tym większe, że system teraz wyciąga domyślne wnioski na podstawie swobodnych komentarzy i przeszłych interakcji, a nie tylko bezpośrednich instrukcji
. Jeśli błędnie wywnioskuje Twoje preferencje, ograniczenia dietetyczne czy okoliczności życiowe, ten błąd może „zatruć każdą odpowiedź, której Ci udzieli” w przyszłości
. Zautomatyzowany proces przepisywania nieaktualnych wspomnień może potęgować te błędy, zamiast je naprawiać, po cichu wpisując fałszywe informacje do Twojego stałego profilu
.
Odzyskanie kontroli nad swoimi danymi stanowi poważne wyzwanie. Ponieważ Dreaming V3 syntetyzuje wspomnienia z całości Twojej historii czatów, usunięcie pojedynczego wpisu pamięci jest niewystarczające. System może ponownie wyodrębnić te same informacje z przeszłych rozmów podczas następnego cyklu syntezy w tle . Aby całkowicie usunąć daną informację, użytkownik musi ręcznie zlokalizować i usunąć konkretną historię czatu zawierającą pierwotne jej ujawnienie — jest to wieloetapowy, nieoczywisty proces, który staje się praktycznie niewykonalny dla długoterminowych użytkowników z latami zapisanych rozmów
.
W tym miejscu koncepcja „gnicia kontekstu” staje się krytyczna i groźniejsza niż kiedykolwiek wcześniej. Gnicie kontekstu to dobrze udokumentowane zjawisko, w którym jakość działania AI pogarsza się, gdy jej „okno kontekstowe” wypełnia się sprzecznymi, nieaktualnymi lub nieistotnymi informacjami . Standardowym rozwiązaniem zawsze było proste działanie: rozpoczęcie nowego czatu, aby oczyścić sytuację
.
Dreaming V3 niweczy to rozwiązanie. Trwały profil pamięci oznacza, że nieaktualne lub nieprawidłowe dane — stare prace, przeszłe związki, nieaktualne preferencje — przetrwają między sesjami . Problem gnicia kontekstu nie ogranicza się już do pojedynczej długiej rozmowy; staje się problemem systemowym, który infekuje każdy nowy czat. „Pamięć” AI staje się stałym źródłem zakłóceń, systematycznie podważając dokładność odpowiedzi, niezależnie od tego, jak starannie zarządzasz poszczególnymi sesjami
.
Samo wdrożenie dodaje kolejny poziom obaw. Dreaming V3 jest początkowo dostępny tylko dla abonentów ChatGPT Plus i Pro w Stanach Zjednoczonych, bez jasnego harmonogramu dla użytkowników międzynarodowych lub korzystających z planu bezpłatnego . Tworzy to dwubiegunowe środowisko prywatności, w którym niektórzy płacący użytkownicy podlegają automatycznemu profilowaniu, a inni nie.
Co więcej, przejście od prostej, możliwej do skontrolowania tekstowej listy wspomnień do złożonego, syntetyzowanego w tle stanu pamięci drastycznie zmniejsza widoczność użytkownika. Użytkownicy nie mogą już łatwo sprawdzić, zrozumieć ani skorygować pełnego zakresu tego, co system o nich wywnioskował . Proces stał się czarną skrzynką, odbierając użytkownikowi możliwość audytu i kontroli nad własnym cyfrowym profilem.
Comments
0 comments