Project Lily: Nakne ChatGPT-samtaler kan bli lest av innleide vurderere

404 Medias undersøkelse av OpenAIs interne Project Lily beskriver et system for menneskelig tilbakemelding basert på ekte samtaler mellom privatbrukere og ChatGPT. Ifølge lekkede materialer, eksempler på spørsmål og uttalelser gjennomgått av nettstedet, kan innleide vurderere lese samtalekontekst for å bedømme modellens svar – også når chattene inneholder følsomme personopplysninger. 1

Det viktigste for deg som bruker ChatGPT til personlige spørsmål, helse, relasjoner, juss eller arbeid, er dette: Å be chatboten om å «holde dette mellom oss» er ikke en personverninnstilling. Det relevante valget er om kontoen din tillater at nye samtaler brukes til modellforbedring. 1

Hva vurdererne i Project Lily angivelig gjør

404 Media skrev at hundrevis av innleide arbeidere, rekruttert gjennom bemanningsbyråer og betalt mer enn 50 dollar i timen, vurderer en stor strøm av ekte ChatGPT-samtaler. Oppgavene deres skal blant annet være å:

• oppsummere hva brukeren forsøker å få hjelp til;
• sammenligne fire mulige modellsvar;
• gi svarene en vurdering fra 1 til 7; og
• peke ut trekk som gjør svaret mindre nyttig eller mindre tillitvekkende. 1

Vurderingskriteriene skal være rettet mot å forbedre kvaliteten og tonen i svarene. Vurdererne blir bedt om å merke seg formuleringer som høres kunstig AI-aktige ut, uriktige faktaopplysninger, overdreven bekreftelse eller smisking, sikkerhetsproblemer og svar som feilaktig gir inntrykk av at modellen har egne erfaringer eller følelser. 1

Formålet er å få ChatGPT til å fremstå mer naturlig og mindre mekanisk. Samtidig innebærer det at menneskelig kvalitetskontroll kan gi innsyn i innholdet i brukernes samtaler. 1

Et fjernet brukernavn gjør ikke nødvendigvis chatten anonym

OpenAI opplyste til 404 Media at brukernavn fjernes og at et personvernfilter brukes før materialet sendes til vurderere. Undersøkelsen fant likevel eksempler der vurderingsmaterialet kunne inneholde hele samtalekonteksten og modellgenererte minneoppsummeringer. Oppsummeringene skal ha inneholdt opplysninger som omtrentlig bosted, yrke og svært personlige livsforhold. 1

Utfordringen er at identifisering også kan skje gjennom kontekst. Et navn eller en kontoidentifikator kan være fjernet, mens kombinasjonen av livshendelser, jobbdetaljer, geografi eller uvanlige referanser likevel kan gjøre en samtale gjenkjennelig for noen som kjenner personen – eller bare svært sensitiv å eksponere. Ifølge 404 Media erkjente OpenAI at filtre kan ha problemer med uvanlige identifikatorer og tvetydige, kontekstavhengige private referanser. 1

«Hold dette mellom oss» stopper ikke gjennomgang

Å be ChatGPT behandle noe konfidensielt er en instruks i selve samtalen, ikke en tilgangskontroll for kontoen. Det overstyrer ikke tjenestens innstillinger for databruk og hindrer ikke at en chat kan bli valgt ut til et forbedringsløp av typen 404 Media beskrev. 1

Det er derfor klokt å ikke behandle en forbrukerchatbot som en fortrolig kanal bare fordi samtalen oppleves personlig. Dersom opplysningen ville være skadelig å dele med en autorisert vurderer, bør du la være å skrive den inn i et privat arbeidsområde der modellforbedring er aktivert.

Slik hindrer du at nye ChatGPT-samtaler brukes til modellforbedring

OpenAIs dokumentasjon om Data Controls sier at brukere med personlig arbeidsområde kan slå av modellforbedring slik:

1. Gå til profil → Innstillinger
2. Velg Data Controls
3. Slå av «Improve the model for everyone»

Når denne innstillingen er slått av, blir nye samtaler fortsatt liggende i chathistorikken, men de skal ikke brukes til å trene eller forbedre ChatGPT-modellene. Valget gjelder kontoen, ikke bare én bestemt enhet.

Tidspunktet er viktig: OpenAI opplyser at reservasjonen gjelder nye samtaler. Den fjerner ikke automatisk chatter som allerede ble sendt inn mens modellforbedring var aktivert.

Dette gjelder for Business, Enterprise og Edu

OpenAI opplyser at inn- og utdata fra ChatGPT Business, Enterprise, Edu og API-plattformen som standard ikke brukes til modelltrening. For privatbrukere med ChatGPT Free, Plus og Pro i personlige arbeidsområder er deling for modellforbedring derimot aktivert som standard, men kan slås av under Data Controls.

Dette fritar ikke virksomheter, skoler eller ansatte fra egne krav til informasjonssikkerhet og behandling av data. Organisasjoner bør fortsatt følge interne retningslinjer og kontrollere de konkrete innstillingene for arbeidsområdet. Men standardbehandlingen skiller seg vesentlig fra vanlige forbrukerchatter.

Er menneskelig kontroll uvanlig i KI-tjenester?

Nei. Menneskelig gjennomgang er ikke særegent for OpenAI. Anthropics personvernerklæring sier at selskapet kan trene og forbedre modellene sine med inn- og utdata fra brukere eller såkalte crowd workers, med mindre brukeren reserverer seg. En akademisk gjennomgang av personvernpraksis hos store KI-leverandører fant også at både Google og OpenAI omtaler menneskelig gjennomgang av brukerchatter for trening eller forbedring av modeller.

Det sentrale spørsmålet er dermed ikke bare om menneskelig tilbakemelding finnes, men om brukerne forstår når samtalene kan inngå i prosessen, hva avidentifisering faktisk beskytter mot, og hvordan de endrer de aktuelle innstillingene.

Det praktiske personvernrådet

Project Lily, slik 404 Media har beskrevet det, er en påminnelse om at en forbrukertjeneste for KI-chat ikke automatisk er en konfidensiell én-til-én-samtale. Avidentifisering kan redusere eksponeringen, men kan ikke nødvendigvis fjerne alle avslørende detaljer i samtaler med mye personlig kontekst. 1

Før du deler sensitiv informasjon i ChatGPT, sjekk Innstillinger → Data Controls → Improve the model for everyone. Når modellforbedring er aktivert, bør du regne med at nye chatter kan være aktuelle for bruk i forbedring av tjenesten. Når den er slått av, sier OpenAI at nye chatter ikke skal brukes til dette formålet.