Project Lily: kto może czytać rozmowy użytkowników ChatGPT

Śledztwo 404 Media dotyczące wewnętrznego projektu OpenAI o nazwie Project Lily opisuje proces zbierania ludzkiej informacji zwrotnej oparty na prawdziwych rozmowach konsumenckich w ChatGPT. Według materiałów, przykładów promptów i stanowisk przeanalizowanych przez redakcję, zewnętrzni wykonawcy mogą otrzymywać kontekst czatów do oceny odpowiedzi modelu — również wtedy, gdy rozmowa zawiera wrażliwe dane osobiste. 1

Dla osób korzystających z ChatGPT w sprawach osobistych, zdrowotnych, relacyjnych, prawnych czy zawodowych najważniejszy wniosek jest prosty: prośba wpisana w czacie, by „zachować to między nami”, nie jest ustawieniem prywatności. Znaczenie ma to, czy konto zezwala na wykorzystywanie nowych rozmów do ulepszania modeli. 1

Na czym ma polegać Project Lily

404 Media podało, że setki wykonawców zatrudnianych przez firmy pośredniczące w rekrutacji i opłacanych stawką przekraczającą 50 dolarów za godzinę analizują duży strumień prawdziwych konwersacji użytkowników ChatGPT. Do ich zadań ma należeć:

• streszczenie intencji użytkownika;
• porównanie czterech proponowanych odpowiedzi modelu;
• przyznanie oceny w skali od 1 do 7;
• wskazanie elementów, które obniżają użyteczność lub wiarygodność odpowiedzi. 1

Zgłaszane kryteria mają służyć poprawie stylu i jakości odpowiedzi ChatGPT. Recenzenci mają oznaczać m.in. język brzmiący sztucznie lub „jak od AI”, błędy faktograficzne, nadmierne przytakiwanie użytkownikowi, kwestie bezpieczeństwa oraz odpowiedzi fałszywie sugerujące, że model ma własne doświadczenia albo emocje. 1

Taka pętla informacji zwrotnej ma sprawiać, że odpowiedzi będą bardziej naturalne i mniej mechaniczne. Oznacza jednak również, że w ramach poprawiania jakości ludzie mogą uzyskiwać dostęp do treści rozmów użytkowników. 1

Usunięcie nazwy użytkownika nie zawsze zapewnia anonimowość

OpenAI przekazało 404 Media, że przed przekazaniem materiałów recenzentom usuwa nazwy użytkowników i stosuje filtr prywatności. Jednocześnie śledztwo znalazło przykłady, w których materiały do oceny obejmowały pełny kontekst rozmowy oraz generowane przez model podsumowania pamięci. Według relacji mogły one zawierać przybliżoną lokalizację, zawód i bardzo osobiste okoliczności życiowe. 1

Problemem pozostaje identyfikacja przez kontekst. Można usunąć imię lub identyfikator konta, ale zestaw wydarzeń z życia, informacji o pracy, położeniu geograficznym czy nietypowych odniesień nadal może pozwolić rozpoznać osobę komuś, kto ją zna — albo po prostu ujawnić wyjątkowo wrażliwe informacje. 404 Media podało, że OpenAI przyznało, iż automatyczne filtry mogą mieć trudność z rzadko spotykanymi identyfikatorami i niejednoznacznymi, zależnymi od kontekstu odniesieniami do prywatnych spraw. 1

Polecenie „zachowaj to między nami” niczego nie blokuje

Polecenie skierowane do ChatGPT, by potraktował rozmowę jako poufną, jest treścią rozmowy, a nie ustawieniem dostępu do danych. Nie zmienia ono ustawień wykorzystania danych na koncie i nie wyklucza czatu z procesu ulepszania usługi opisanego przez 404 Media. 1

Dlatego konsumenckiego czatu z AI nie warto traktować jak kanału objętego poufnością tylko dlatego, że rozmowa ma osobisty charakter. Jeżeli ujawnienie informacji uprawnionemu recenzentowi byłoby problemem, bezpieczniej nie wpisywać jej do osobistego obszaru roboczego, w którym włączono ulepszanie modeli.

Jak wyłączyć używanie nowych rozmów do ulepszania ChatGPT

Z dokumentacji OpenAI dotyczącej kontroli danych wynika, że użytkownicy osobistych obszarów roboczych mogą wyłączyć ulepszanie modeli w następujący sposób:

1. Profil → Ustawienia
2. Kontrola danych
3. Wyłącz opcję „Ulepszaj model dla wszystkich”

Po wyłączeniu tej opcji nowe rozmowy pozostają w historii czatów, ale nie są wykorzystywane do trenowania ani ulepszania modeli ChatGPT. Ustawienie obowiązuje na całym koncie, a nie wyłącznie na konkretnym urządzeniu.

Istotny jest moment zmiany: według OpenAI rezygnacja dotyczy nowych rozmów. Nie usuwa wstecznie czatów przekazanych wcześniej, gdy opcja ulepszania modeli była aktywna.

Co powinni wiedzieć użytkownicy Business, Enterprise i Edu

OpenAI deklaruje, że domyślnie nie wykorzystuje do trenowania modeli danych wejściowych i wyjściowych z ChatGPT Business, Enterprise, Edu ani z platformy API. Inaczej jest w osobistych obszarach roboczych użytkowników ChatGPT Free, Plus i Pro: udostępnianie danych na potrzeby ulepszania modeli jest tam domyślnie włączone, choć można je wyłączyć w Kontroli danych.

Nie zwalnia to organizacji z obowiązków związanych z ochroną danych. Zespoły nadal powinny stosować zasady pracodawcy i sprawdzić ustawienia obowiązujące w ich konkretnym obszarze roboczym. Jest to jednak ważna różnica względem domyślnego traktowania rozmów konsumenckich.

Czy tylko OpenAI korzysta z ludzkiej oceny AI?

Nie. Przegląd wykonywany przez ludzi nie jest praktyką wyjątkową dla OpenAI. Polityka prywatności Anthropic mówi, że firma może trenować i ulepszać modele na podstawie danych wejściowych i wyjściowych przekazanych przez użytkowników lub pracowników crowdsourcingowych, chyba że użytkownik zrezygnuje z tego w ustawieniach. Akademicka analiza praktyk prywatności dużych dostawców AI wskazuje także, że zarówno Google, jak i OpenAI opisują udział ludzi w przeglądzie rozmów użytkowników na potrzeby trenowania lub ulepszania modeli.

Szerszy problem nie polega więc na samym istnieniu ludzkiej informacji zwrotnej. Chodzi o to, czy użytkownicy rozumieją, kiedy ich rozmowy mogą trafić do tego procesu, czego nie jest w stanie zagwarantować deidentyfikacja oraz jak zmienić odpowiednie ustawienia.

Praktyczny wniosek dotyczący prywatności

Project Lily, opisany przez 404 Media, przypomina, że konsumencki czat z AI nie jest automatycznie poufną rozmową jeden na jeden. Mechanizmy deidentyfikacji mogą ograniczać ekspozycję danych, lecz nie zawsze usuną każdy szczegół ujawniający tożsamość lub prywatną sytuację rozmówcy. 1

Przed wpisaniem wrażliwych informacji w ChatGPT sprawdź: Ustawienia → Kontrola danych → „Ulepszaj model dla wszystkich”. Gdy ulepszanie modeli jest aktywne, nowe czaty należy traktować jako potencjalnie kwalifikujące się do wykorzystania przy poprawianiu usługi. Gdy opcja jest wyłączona, OpenAI deklaruje, że nowe rozmowy nie będą używane w tym celu.