Projekt Lily: lidé údajně čtou skutečné konverzace v ChatGPT

Vyšetřování webu 404 Media popisuje interní iniciativu OpenAI s názvem Project Lily, v níž měli externí hodnotitelé pracovat se skutečnými konverzacemi uživatelů ChatGPT. Nejde tedy jen o obecnou otázku, zda se chaty používají pro vylepšování modelu: podle reportáže mohli smluvní pracovníci číst materiál bez uživatelských jmen, avšak stále s velmi osobním kontextem. 2

Jak měl Project Lily fungovat

Podle interních podkladů, které 404 Media prostudovalo, OpenAI najímala přes personální agentury stovky externích spolupracovníků. Odměna měla přesahovat 50 dolarů za hodinu. Jejich úkolem bylo shrnout, co uživatel zamýšlel, porovnat čtyři možné odpovědi ChatGPT a ohodnotit je na škále 1 až 7. 2

Cílem mělo být zkvalitnit odpovědi: aby chatbot působil přirozeněji a méně šablonovitě, méně se stylizoval do člověka a méně uživateli bezvýhradně přitakával nebo lichotil. Zapojení lidské zpětné vazby je v rozvoji AI běžné; citlivou otázkou je zde použití reálných spotřebitelských konverzací. 2

Co mohl hodnotitel vidět

404 Media uvádí, že hodnotitelé mohli dostat celé výměny zpráv a v některých případech také shrnutí uživatelských vzpomínek (user memories summary). Uživatelské jméno se nezobrazovalo, dostupný kontext ale mohl prozradit přibližnou polohu, profesi, dřívější zájmy nebo osobní situaci. 2

Právě v tom je podstatný rozdíl mezi odstraněním jména a skutečnou anonymitou. Kombinace informací o práci, rodině, zdravotních potížích či neobvyklé životní události může být citlivá, i když přímo neodhaluje jméno držitele účtu.

Filtr soukromí není všemocný

OpenAI popisuje svůj Privacy Filter jako model určený k rozpoznávání a redigování osobních údajů v textu. 4647

V souvislosti s Project Lily společnost uvedla, že před předáním materiálů externistům odstraňuje uživatelská jména a používá automatický filtr. Reportáž 404 Media však říká, že se citlivé údaje mohly v hodnocených konverzacích objevit i navzdory těmto opatřením. 2

Automatická redakce může rozpoznat zjevné údaje, například jméno, e-mailovou adresu nebo telefonní číslo. Mnohem hůře ale zachytí nepřímé identifikátory a souvislosti, které mohou člověka vystavit odhalení nebo prozradit jeho intimní okolnosti.

Co měli hodnotitelé označovat

Pokyny podle reportáže neřešily jen faktickou správnost. Externisté měli upozorňovat mimo jiné na:

• šablonovitý či nepřirozený „jazyk AI“,
• tvrzení, která naznačují lidské pocity nebo vlastní prožité zkušenosti,
• přehnané souhlasení, lichocení a jiné podlézavé chování,
• věcné chyby,
• úniky osobních informací,
• bezpečnostní problémy. 2

Důraz na takzvanou sykofancii — tedy přehnanou ochotu uživateli přitakat — je důležitý. Model, který neustále potvrzuje uživatelovy názory, může působit vstřícně, ale nemusí korigovat nesprávné, rizikové nebo škodlivé předpoklady. Project Lily měl podle reportáže pomáhat toto chování omezit. 2

Věta „nech si to mezi námi“ není nastavení soukromí

Prosba o utajení napsaná přímo do promptu nemění pravidla nakládání s daty ani nepřepisuje nastavení účtu. Je to pouze součást obsahu konverzace, nikoli technický pokyn, který by omezil použití dat.

Pro osobní pracovní prostory ChatGPT je rozhodující ovládací prvek „Improve the model for everyone“. Je-li zapnutý, mohou být chaty použity ke zlepšování modelů. Je-li vypnutý, OpenAI uvádí, že nebude trénovat na nových konverzacích. 2130

Jak vypnout využití nových chatů pro zlepšování modelu

Přihlášení uživatelé mají podle pokynů OpenAI postupovat takto:

1. Otevřete v ChatGPT nabídku svého profilu.
2. Zvolte Settings (Nastavení).
3. Otevřete Data Controls (Ovládání dat).
4. Vypněte „Improve the model for everyone“. 1921

Toto nastavení se váže k účtu, nikoli k jednomu zařízení. Historie dřívějších chatů vám může zůstat k dispozici, ale nové konverzace se po vypnutí nemají používat k trénování modelů. 1930

Alternativou je volba „Do not train on my content“ na portálu ochrany soukromí OpenAI. Společnost uvádí, že pro úlohy v ChatGPT a Codexu stačí použít jednu z těchto dvou možností. 21

Které tarify mají ochranu ve výchozím nastavení

U osobních pracovních prostorů Free, Plus a Pro je podle OpenAI sdílení dat pro trénování modelů ve výchozím nastavení zapnuté, uživatel se ale může odhlásit. U ChatGPT Business, Enterprise, Edu a API Platform OpenAI standardně nepoužívá poskytnuté vstupy a výstupy k trénování svých modelů. 23

Ani u firemního účtu to samo o sobě neznamená, že lze bez dalšího vkládat jakýkoli důvěrný obsah. Organizace by měly prověřit vlastní nastavení pracovního prostoru, uchovávání dat, pravidla sdílení i interní postupy.

Praktický závěr

Project Lily, jak jej popisuje 404 Media, je připomínkou, že spotřebitelský chat s AI není automaticky důvěrným komunikačním kanálem. Před zadáním vysoce citlivých osobních, zdravotních, právních, finančních nebo firemních informací je vhodné nejprve vypnout „Improve the model for everyone“. 221

Odhlášení se týká používání nových konverzací ke zlepšování modelů. Nejde o instrukci vloženou do promptu a dokumentace OpenAI jej nepopisuje jako způsob, jak vzít zpět již odeslaný obsah. 2130