OpenAI-projektet Lily sætter fokus på, hvem der kan læse dine ChatGPT-samtaler

404 Medias undersøgelse af et internt OpenAI-initiativ med navnet Project Lily beskriver et systematisk program med menneskelig feedback baseret på rigtige ChatGPT-samtaler. Privatlivsspørgsmålet er ikke blot, at chats kan bruges til at forbedre modeller: Ifølge mediet kunne eksterne konsulenter læse samtalemateriale uden brugernavne, men stadig med meget personlige oplysninger og sammenhænge. 2

Sådan fungerede Project Lily ifølge 404 Media

Ifølge lækkede materialer, som 404 Media har set, rekrutterede OpenAI hundredvis af konsulenter gennem bemandingsfirmaer til at gennemgå rigtige brugerprompter og ChatGPT-svar. Arbejdet skulle efter sigende være betalt med mere end 50 dollar i timen. Konsulenterne skulle opsummere brugerens hensigt, sammenligne fire mulige svar og give dem karakter på en skala fra 1 til 7. 2

Målet var angiveligt at forbedre kvaliteten af svarene – blandt andet ved at gøre ChatGPT mindre robotagtig, mindske påstande, der får modellen til at fremstå menneskelig, og begrænse overdreven enighed eller smiger. Menneskelig feedback er en kendt metode i AI-udvikling, men brugen af reelle forbrugersamtaler gør privatlivsaspektet mere konkret. 2

Hvad kunne en konsulent se?

404 Media skriver, at konsulenter kunne få vist hele samtaleforløb og i nogle tilfælde en opsummering af brugerens hukommelse. Brugernavne blev ifølge rapporteringen ikke vist, men den tilgængelige kontekst kunne stadig afsløre omtrentligt opholdssted, arbejde, tidligere interesser og personlige livsomstændigheder. 2

Det er en væsentlig forskel: At fjerne et navn er ikke nødvendigvis det samme som at gøre en samtale reelt anonym eller ufølsom. Kombinationen af eksempelvis job, familiesituation, helbredsforhold eller en særlig begivenhed kan være følsom, selv når den ikke direkte identificerer kontoejeren.

Privacy Filter fjerner ikke nødvendigvis al følsom kontekst

OpenAI oplyser, at virksomhedens Privacy Filter er en model, der skal opdage og maskere personhenførbare oplysninger i tekst. 4647

I rapporteringen om Project Lily sagde OpenAI, at brugernavne blev fjernet, og at et automatisk filter blev anvendt, før materialet nåede konsulenterne. Men 404 Media rapporterede, at følsomme detaljer fortsat kunne fremgå af de samtaler, der blev gennemgået. 2

Det illustrerer begrænsningen ved automatisk redigering: Et system kan lettere genkende tydelige identifikatorer som navn, e-mailadresse eller telefonnummer end den mere indirekte kontekst, der kan gøre en person genkendelig.

Det skulle anmelderne blandt andet markere

Retningslinjerne, som 404 Media beskriver, handlede om mere end blot, hvorvidt svaret var korrekt. Konsulenterne blev angiveligt bedt om at identificere problemer som:

• Skabelonagtigt eller unaturligt „AI-sprog“
• Påstande, der antyder menneskelige følelser eller levede erfaringer
• Overdreven enighed, smiger eller anden eftergivenhed
• Faktuelle fejl
• Eksponering af personlige oplysninger
• Sikkerhedsproblemer 2

Fokus på overdreven enighed er vigtigt. En model, der alt for gerne bekræfter brugeren, kan lyde støttende, men samtidig undlade at udfordre forkerte, risikable eller skadelige antagelser. Project Lily skulle ifølge rapporteringen blandt andet bruges til at justere den adfærd. 2

„Lad os holde det mellem os“ er ikke en privatlivsindstilling

At skrive i prompten, at samtalen skal holdes fortrolig, ændrer ikke kontoens dataindstillinger. Det er en del af samtalens indhold – ikke en teknisk instruktion, der kan tilsidesætte OpenAI’s indstillinger for databrug.

For personlige ChatGPT-arbejdsområder er den dokumenterede kontrol „Improve the model for everyone“. Når den er slået til, kan chats bruges til at forbedre modeller; når den er slået fra, oplyser OpenAI, at virksomheden ikke træner på nye samtaler. 2130

Sådan forhindrer du, at nye ChatGPT-samtaler bruges til modeltræning

Er du logget ind, er OpenAI’s vejledning:

1. Åbn din profilmenu i ChatGPT.
2. Vælg Settings.
3. Åbn Data Controls.
4. Slå „Improve the model for everyone“ fra. 1921

Indstillingen gælder for kontoen og ikke kun den enkelte enhed. Din eksisterende chatoversigt kan fortsat være tilgængelig, men OpenAI oplyser, at nye samtaler ikke bruges til at træne modellerne, efter indstillingen er slået fra. 1930

OpenAI tilbyder også valget „Do not train on my content“ via sin privatlivsportal. Virksomheden oplyser, at enten dette valg eller Data Controls-indstillingen i produktet er tilstrækkelig for ChatGPT- og Codex-opgaver. 21

Hvilke abonnementer har beskyttelse som standard?

OpenAI oplyser, at personlige arbejdsområder på Free, Plus og Pro som standard har datadeling til modeltræning slået til, men at brugeren kan fravælge den. For ChatGPT Business, Enterprise, Edu og API-platformen siger OpenAI, at de leverede input og output ikke bruges til at træne modeller som standard. 23

Det betyder ikke nødvendigvis, at alle samtaler i en virksomhedskonto er risikofrie i enhver sammenhæng. Organisationer bør stadig gennemgå indstillinger for arbejdsområdet, opbevaring, deling og egne interne regler, før fortroligt materiale lægges ind i et AI-værktøj.

Det vigtigste at tage med

Project Lily er, sådan som 404 Media beskriver det, en påmindelse om at behandle forbruger-AI som en tjeneste med indstillinger for databrug – ikke som en kanal, der i sig selv er fortrolig. Indeholder en prompt meget følsomme personlige, juridiske, helbredsmæssige, økonomiske eller forretningskritiske oplysninger, er det sikreste umiddelbare skridt at slå „Improve the model for everyone“ fra, før en ny samtale påbegyndes. 221

Et fravalg styrer OpenAI’s brug af nye samtaler til modelforbedring. Det er ikke noget, man kan opnå ved at skrive en anmodning i selve prompten, og OpenAI’s dokumentation beskriver det ikke som en måde at trække allerede indsendt materiale tilbage på. 2130