Project Lily: aannemers zouden echte ChatGPT-gesprekken beoordelen

404 Media beschrijft in een onderzoek naar OpenAI’s interne Project Lily een systeem van menselijke feedback dat gebruikmaakt van echte gesprekken van consumenten met ChatGPT. Op basis van gelekte stukken, voorbeelden van prompts en verklaringen die de nieuwssite inzag, kunnen uitbestede beoordelaars gesprekscontext lezen om antwoorden van het model te beoordelen — ook wanneer daarin gevoelige persoonlijke gegevens staan. 1

Voor iedereen die ChatGPT inzet voor persoonlijke, medische, relationele, juridische of werkgerelateerde vragen is de belangrijkste les eenvoudig: een prompt als ‘houd dit tussen ons’ is geen privacy-instelling. Bepalend is of je account nieuwe gesprekken mag laten gebruiken voor modelverbetering. 1

Wat beoordelaars bij Project Lily volgens de berichtgeving doen

404 Media meldt dat honderden aannemers, geworven via detacherings- en uitzendbedrijven en betaald met meer dan 50 dollar per uur, een grote stroom echte ChatGPT-gesprekken beoordelen. Hun opdrachten zouden onder meer zijn:

• de bedoeling van de gebruiker samenvatten;
• vier mogelijke modelantwoorden vergelijken;
• die antwoorden een score van 1 tot 7 geven; en
• gedrag aanwijzen waardoor een antwoord minder bruikbaar of minder betrouwbaar wordt. 1

De beoordelingscriteria zijn volgens het rapport gericht op de kwaliteit en toon van antwoorden. Beoordelaars zouden onder meer moeten letten op typische AI-formuleringen, feitelijke onjuistheden, overdreven bevestigend of slijmerig taalgebruik, veiligheidsrisico’s en antwoorden waarin het model ten onrechte suggereert persoonlijke ervaringen of emoties te hebben. 1

Zo’n feedbacklus moet ChatGPT natuurlijker en minder mechanisch laten klinken. Maar kwaliteitsverbetering kan dus ook betekenen dat mensen toegang krijgen tot de inhoud van gebruikersgesprekken. 1

Een verwijderde gebruikersnaam maakt een chat niet vanzelf anoniem

OpenAI vertelde 404 Media dat gebruikersnamen worden verwijderd en dat een Privacy Filter wordt toegepast voordat materiaal naar beoordelaars gaat. Toch trof het onderzoek voorbeelden aan waarin beoordelingsmateriaal de volledige gesprekscontext en door het model gemaakte geheugensamenvattingen kon bevatten. In die samenvattingen stonden volgens de berichtgeving bijvoorbeeld een globale locatie, beroep en zeer persoonlijke omstandigheden. 1

Het probleem zit in identificatie via context. Een naam of accountkenmerk kan ontbreken, terwijl een combinatie van gebeurtenissen, werkdetails, woonomgeving of ongebruikelijke verwijzingen iemand toch herkenbaar maakt voor bekenden — of de informatie in elk geval zeer gevoelig maakt om te delen. OpenAI erkende volgens 404 Media dat filters moeite kunnen hebben met zeldzame identificerende gegevens en dubbelzinnige, contextafhankelijke privéverwijzingen. 1

‘Houd dit tussen ons’ voorkomt geen beoordeling

ChatGPT vragen om een gesprek vertrouwelijk te houden, is een instructie binnen het gesprek — geen toegangsinstelling voor je account. Zo’n verzoek zet de instellingen voor gegevensgebruik niet opzij en voorkomt niet dat een chat in een verbeteringsproces terechtkomt zoals 404 Media dat beschrijft. 1

Behandel een consumentenchatbot daarom niet als een vertrouwelijk kanaal alleen omdat het gesprek persoonlijk aanvoelt. Als het schadelijk zou zijn wanneer een geautoriseerde beoordelaar de informatie ziet, is het verstandiger die niet in een persoonlijke werkruimte te zetten zolang modelverbetering aanstaat.

Zo voorkom je dat nieuwe ChatGPT-gesprekken voor modelverbetering worden gebruikt

Volgens OpenAI’s documentatie over Data Controls kunnen gebruikers van een persoonlijke werkruimte modelverbetering uitschakelen via:

1. Profiel → Instellingen
2. Data Controls
3. Zet ‘Improve the model for everyone’ uit

Met die optie uit blijven nieuwe gesprekken in je chatgeschiedenis staan, maar worden ze niet gebruikt om de modellen van ChatGPT te trainen of te verbeteren. De instelling geldt voor je account en niet voor slechts één apparaat.

Het moment waarop je dit doet is belangrijk: OpenAI zegt dat een opt-out alleen voor nieuwe gesprekken geldt. Chats die al waren ingediend terwijl modelverbetering aanstond, worden daarmee niet met terugwerkende kracht verwijderd.

Verschil tussen persoonlijke, zakelijke en onderwijsaccounts

OpenAI stelt dat invoer en uitvoer van ChatGPT Business, Enterprise, Edu en het API Platform standaard niet worden gebruikt om modellen te trainen. Voor ChatGPT Free, Plus en Pro in persoonlijke werkruimtes staat het delen voor modelverbetering daarentegen standaard aan, al kunnen gebruikers dit via Data Controls uitschakelen.

Dat neemt niet alle verplichtingen rond gegevensbescherming binnen een organisatie weg. Teams moeten nog altijd het beleid van hun werkgever volgen en de instellingen van hun eigen werkruimte controleren. Maar het is wel een belangrijk verschil met de standaardbehandeling van consumentenchats.

Is menselijke beoordeling uniek voor OpenAI?

Nee. Anthropic vermeldt in zijn privacybeleid dat het modellen kan trainen en verbeteren met invoer en uitvoer van gebruikers of crowdworkers, tenzij gebruikers zich afmelden. Ook een academische analyse van het privacybeleid van grote AI-aanbieders concludeerde dat zowel Google als OpenAI menselijke beoordeling van gebruikerschats voor training of verbetering bespreken.

De bredere kwestie is dus niet óf menselijke feedback wordt gebruikt. Het gaat erom of gebruikers begrijpen wanneer hun gesprekken in zo’n proces kunnen belanden, wat anonimisering wel en niet beschermt, en hoe zij de relevante instelling aanpassen.

De praktische privacyles

Project Lily is, afgaand op de berichtgeving van 404 Media, een herinnering dat een consumentenchat met AI niet automatisch een vertrouwelijk één-op-ééngesprek is. Maatregelen om gegevens minder herleidbaar te maken kunnen de blootstelling beperken, maar verwijderen niet noodzakelijk alle onthullende details uit een gesprek vol persoonlijke context. 1

Controleer daarom vóór je gevoelige informatie in ChatGPT zet: Instellingen → Data Controls → Improve the model for everyone. Staat modelverbetering aan, ga er dan van uit dat nieuwe chats mogelijk in aanmerking komen voor verbetering van de dienst. Staat de optie uit, dan zegt OpenAI dat nieuwe chats niet voor dat doel worden gebruikt.