Project Lily väcker frågor om vem som kan läsa dina ChatGPT-chattar

404 Media beskriver i en granskning ett internt OpenAI-initiativ kallat Project Lily, där mänsklig återkoppling ska ha byggts på verkliga ChatGPT-samtal. Integritetsfrågan är alltså inte bara att chattar kan användas för att förbättra modeller: enligt rapporten kan externa uppdragstagare ha fått läsa samtalsmaterial där användarnamn tagits bort, men där mycket personliga sammanhang ändå kunde finnas kvar. 2

Så ska Project Lily ha fungerat

Enligt läckta material som 404 Media har granskat rekryterade OpenAI hundratals uppdragstagare via bemanningsföretag. Ersättningen uppgavs vara mer än 50 dollar i timmen. Granskarna skulle sammanfatta användarens avsikt, jämföra fyra möjliga svar och betygsätta dem på en skala från 1 till 7. 2

Syftet ska ha varit att förbättra svarens kvalitet: göra ChatGPT mindre mekaniskt i tonen, minska påståenden som får modellen att framstå som mänsklig och dämpa överdrivet instämmande eller smickrande svar. Mänsklig återkoppling är en etablerad metod inom AI-utveckling, men användningen av verkliga konsumentsamtal gör integritetsfrågan mer påtaglig. 2

Namnet borttaget – men sammanhanget kan vara känsligt

404 Media rapporterar att granskare kunde få se hela utbyten och i vissa fall en sammanfattning av användarminnen. Användarnamn ska inte ha visats, men sammanhanget kunde ändå avslöja ungefärlig plats, yrke, tidigare intressen och personliga omständigheter. 2

Det är en viktig skillnad. Att ta bort ett namn innebär inte nödvändigtvis att en konversation i praktiken är ofarlig eller anonym. Kombinationen av arbete, familjesituation, hälsobesvär eller en ovanlig händelse kan vara känslig även utan att den direkt pekar ut ett konto.

Privacy Filter ska maskera personuppgifter

OpenAI beskriver sitt Privacy Filter som en modell för att upptäcka och maskera personligt identifierbar information i text. 4647

I rapporteringen om Project Lily uppgav OpenAI att användarnamn togs bort och att materialet passerade ett automatiserat filter innan det nådde uppdragstagarna. Men 404 Media rapporterar att känsliga detaljer ändå kunde finnas kvar i konversationer som granskades. 2

Det visar en begränsning med automatisk maskning. Ett system kan känna igen uppenbara uppgifter som namn, e-postadress eller telefonnummer, medan mer indirekta kännetecken i ett sammanhang är betydligt svårare att identifiera säkert.

Detta skulle granskarna flagga

Riktlinjerna som 404 Media beskriver handlade inte enbart om huruvida svaret var korrekt. Uppdragstagarna skulle enligt uppgifterna bland annat markera:

• mallartat eller onaturligt AI-språk
• påståenden som antyder mänskliga känslor eller egna erfarenheter
• överdrivet medhåll, smicker eller annat inställsamt beteende
• faktafel
• exponering av personuppgifter
• säkerhetsproblem. 2

Fokuset på inställsamhet är betydelsefullt. En modell som alltför gärna bekräftar användaren kan låta stöttande, men samtidigt undvika att ifrågasätta felaktiga, riskfyllda eller skadliga antaganden. Project Lily ska delvis ha varit tänkt att justera detta beteende. 2

”Behåll det här mellan oss” är ingen integritetsinställning

Att skriva i en prompt att samtalet ska hållas hemligt ändrar inte kontots inställningar för dataanvändning. Det är innehåll i chatten, inte en teknisk instruktion som kan åsidosätta OpenAI:s datakontroller.

För personliga ChatGPT-arbetsytor är den dokumenterade kontrollen ”Improve the model for everyone”. När den är aktiverad kan chattar användas för att förbättra modellerna. När den stängs av säger OpenAI att bolaget inte tränar på nya konversationer. 2130

Så stoppar du användning av nya chattar för modellförbättring

För inloggade användare anger OpenAI följande steg:

1. Öppna din profilmeny i ChatGPT.
2. Välj Settings.
3. Öppna Data Controls.
4. Stäng av Improve the model for everyone. 1921

Inställningen gäller kontot, inte bara en enskild mobil eller dator. Din tidigare chatthistorik kan ligga kvar när du stänger av den, men OpenAI uppger att nya konversationer då inte används för att träna modellerna. 1930

OpenAI erbjuder också alternativet ”Do not train on my content” via sin integritetsportal. Företaget uppger att antingen det alternativet eller Datakontroller i produkten räcker för ChatGPT- och Codex-uppgifter. 21

Vilka abonnemang har skydd som standard?

Enligt OpenAI är datadelning för modellträning aktiverad som standard i personliga arbetsytor med Free, Plus och Pro, men användaren kan välja bort den. För ChatGPT Business, Enterprise, Edu och API-plattformen uppger OpenAI att inmatningar och utdata inte används för modellträning som standard. 23

Det betyder inte att varje företagssamtal automatiskt är riskfritt i alla avseenden. Organisationer bör fortfarande granska inställningar för arbetsytan, lagringsrutiner, delningskontroller och interna regler innan konfidentiellt material läggs in i ett AI-verktyg.

Slutsatsen: behandla konsumentchattar som en tjänst med inställningar

Project Lily, såsom det har beskrivits av 404 Media, är en påminnelse om att en konsumentchatt med AI inte bör ses som en i sig konfidentiell kanal. Om prompten innehåller mycket känsliga personliga, juridiska, medicinska, ekonomiska eller affärskritiska uppgifter är det säkraste omedelbara steget att stänga av Improve the model for everyone innan du startar en ny konversation. 221

Att välja bort detta styr OpenAI:s användning av nya samtal för modellförbättring. Det är inte en begäran som kan skrivas in i en prompt, och OpenAI:s dokumentation beskriver inte inställningen som ett sätt att dra tillbaka material som redan har skickats in. 2130