Project Lily: mensen lazen mogelijk echte ChatGPT-gesprekken mee

Volgens onderzoek van 404 Media draaide een intern OpenAI-programma met de naam Project Lily om gestructureerde menselijke feedback op echte ChatGPT-gesprekken. De privacyvraag is daarbij niet alleen óf chats voor modelverbetering worden gebruikt: externe opdrachtnemers konden volgens het bericht gesprekken lezen waarvan de gebruikersnaam was verwijderd, maar waarin nog altijd zeer persoonlijke context kon staan. 2

Wat Project Lily volgens de berichtgeving deed

Op basis van gelekte documenten die 404 Media inzag, zou OpenAI via bemiddelingsbureaus honderden externe krachten hebben geworven om echte gebruikersprompts en ChatGPT-antwoorden te beoordelen. Het werk zou meer dan 50 dollar per uur hebben betaald. Beoordelaars vatten de bedoeling van de gebruiker samen, vergeleken vier mogelijke antwoorden en gaven die een score van 1 tot 7. 2

Het doel was volgens de berichtgeving de kwaliteit van antwoorden te verbeteren: ChatGPT minder robotachtig laten klinken, minder menselijke gevoelens of ervaringen laten claimen en overmatige instemming of vleierij terugdringen. Menselijke feedback is een gebruikelijke methode bij AI-ontwikkeling, maar het gebruik van echte consumentengesprekken maakt de privacyconsequenties directer. 2

Welke informatie beoordelaars mogelijk zagen

404 Media schreef dat beoordelaars volledige uitwisselingen konden krijgen en soms ook een samenvatting van gebruikersherinneringen. Gebruikersnamen zouden niet zichtbaar zijn, maar de beschikbare context kon nog steeds een globale locatie, beroep, eerdere interesses en persoonlijke omstandigheden onthullen. 2

Dat onderscheid is belangrijk. Een naam weghalen betekent niet automatisch dat een gesprek in de praktijk onschadelijk of anoniem is. Een combinatie van details over werk, gezin, gezondheid of een uitzonderlijke gebeurtenis kan gevoelig zijn, ook zonder dat een account direct aan een persoon is te koppelen.

De rol en grens van OpenAI's Privacy Filter

OpenAI beschrijft zijn Privacy Filter als een model dat persoonlijk identificeerbare informatie in tekst moet opsporen en wegfilteren. 4647

In de berichtgeving over Project Lily zei OpenAI dat gebruikersnamen werden verwijderd en dat materiaal eerst door een geautomatiseerd filter ging voordat het bij opdrachtnemers terechtkwam. Toch konden gevoelige details volgens 404 Media in beoordeelde gesprekken achterblijven. 2

Dat laat een beperking van automatische redactie zien: namen, e-mailadressen en telefoonnummers zijn relatief herkenbaar, maar indirecte, contextafhankelijke aanwijzingen zijn veel lastiger betrouwbaar te classificeren.

Waar beoordelaars volgens de richtlijnen op moesten letten

De richtlijnen gingen naar verluidt verder dan feitelijke juistheid. Opdrachtnemers moesten onder meer signaleren:

• Formulematige of onnatuurlijke ‘AI-taal’
• Uitspraken die menselijke gevoelens of levenservaring suggereren
• Overmatige instemming, vleierij of ander slaafs gedrag
• Feitelijke fouten
• Blootstelling van persoonsgegevens
• Veiligheidsrisico's 2

De aandacht voor overdreven instemming is veelzeggend. Een model dat de gebruiker te graag gelijk geeft, kan steunend overkomen maar nalaten om onjuiste, riskante of schadelijke aannames ter discussie te stellen. Project Lily was volgens de berichtgeving mede bedoeld om dat gedrag bij te sturen. 2

‘Houd dit tussen ons’ is geen privacyinstelling

Een verzoek om geheimhouding in een prompt verandert niet hoe de gegevensinstellingen van een account werken. Het is tekst ín het gesprek, geen technische instructie die OpenAI's instellingen voor gegevensgebruik kan overschrijven.

Voor persoonlijke ChatGPT-werkruimtes noemt OpenAI de instelling Improve the model for everyone. Staat die aan, dan kunnen chats voor modelverbetering worden gebruikt. Zet je de instelling uit, dan zegt OpenAI nieuwe gesprekken niet voor training te gebruiken. 2130

Zo voorkom je dat nieuwe ChatGPT-chats voor modelverbetering worden gebruikt

Voor ingelogde gebruikers geeft OpenAI deze stappen:

1. Open het profielmenu in ChatGPT.
2. Kies Settings.
3. Ga naar Data Controls.
4. Zet Improve the model for everyone uit. 1921

De instelling geldt voor je account en niet voor één afzonderlijk apparaat. Je bestaande chatgeschiedenis kan zichtbaar blijven nadat je de instelling uitzet, maar OpenAI zegt dat nieuwe gesprekken dan niet voor modeltraining worden gebruikt. 1930

Daarnaast biedt OpenAI via zijn privacyportaal de optie Do not train on my content. Volgens het bedrijf is óf die optie óf de instelling in ChatGPT zelf voldoende voor ChatGPT- en Codex-taken. 21

Welke abonnementen hebben standaard meer bescherming?

OpenAI stelt dat gegevensdeling voor modeltraining in persoonlijke werkruimtes met Free, Plus en Pro standaard is ingeschakeld, al kun je je afmelden. Voor ChatGPT Business, Enterprise, Edu en het API Platform zegt OpenAI ingevoerde gegevens en uitvoer standaard niet voor modeltraining te gebruiken. 23

Dat betekent niet dat elke zakelijke conversatie voor ieder doel automatisch risicovrij is. Organisaties doen er nog steeds goed aan werkruimte-instellingen, bewaartermijnen, deelmogelijkheden en intern beleid te controleren voordat vertrouwelijke informatie in een AI-tool wordt ingevoerd.

De praktische conclusie

Project Lily is, zoals 404 Media het beschrijft, een reden om consumentenchats met AI te behandelen als een dienst met instelbaar gegevensgebruik — niet als een vanzelfsprekend vertrouwelijk kanaal. Bevat een prompt zeer gevoelige persoonlijke, juridische, medische, financiële of bedrijfsvertrouwelijke informatie, zet dan Improve the model for everyone uit vóór je een nieuw gesprek begint. 221

Afmelden regelt OpenAI's gebruik van nieuwe gesprekken voor modelverbetering. Het is geen verzoek dat je in een prompt kunt zetten, en de documentatie van OpenAI beschrijft het niet als een manier om eerder ingediend materiaal terug te halen. 2130