Project Lily: chi può leggere le conversazioni con ChatGPT e come limitare l’uso dei dati

L’inchiesta di 404 Media su Project Lily, un programma interno di OpenAI, descrive un’attività di feedback umano basata su conversazioni reali di utenti di ChatGPT. Secondo documenti interni trapelati, esempi di prompt e dichiarazioni esaminati dalla testata, appaltatori esterni possono leggere il contesto delle chat per valutare le risposte del modello, anche quando emergono dettagli personali delicati. 1

Per chi usa ChatGPT per questioni personali, sanitarie, sentimentali, legali o di lavoro, il punto essenziale è questo: scrivere nella chat «resti tra noi» non equivale ad attivare una protezione della privacy. L’impostazione rilevante è quella che consente o impedisce l’uso delle nuove conversazioni per migliorare i modelli. 1

Che cosa farebbero i revisori di Project Lily

404 Media riferisce che centinaia di appaltatori, assunti tramite società di staffing e pagati oltre 50 dollari l’ora, esaminerebbero un flusso molto ampio di conversazioni reali. Tra i compiti indicati figurerebbero:

• riassumere l’intento dell’utente;
• confrontare quattro possibili risposte del modello;
• assegnare un punteggio da 1 a 7;
• segnalare gli elementi che rendono una risposta meno utile o meno affidabile. 1

Le istruzioni di valutazione mirerebbero a individuare formulazioni che suonano troppo «da IA», errori fattuali, toni eccessivamente compiacenti, problemi di sicurezza e risposte che fingono esperienze o emozioni umane. 1

Il fine dichiarato è migliorare qualità e naturalezza delle risposte di ChatGPT. Il rovescio della medaglia è che questo processo di miglioramento può comportare l’accesso umano al contenuto delle conversazioni. 1

Rimuovere il nome non rende automaticamente anonima una chat

OpenAI ha detto a 404 Media che i nomi utente vengono rimossi e che, prima dell’invio ai revisori, viene applicato un Privacy Filter. L’indagine ha però trovato esempi nei quali i materiali di revisione potevano contenere l’intero contesto della conversazione e riepiloghi della memoria generati dal modello. Tali riepiloghi includevano, secondo la testata, informazioni come località approssimativa, professione e circostanze personali molto intime. 1

Il problema è l’identificazione attraverso il contesto. Anche senza nome o identificativo dell’account, una combinazione di eventi di vita, dettagli professionali, area geografica o riferimenti insoliti può rendere una conversazione riconoscibile per chi conosce la persona, oppure semplicemente troppo sensibile per essere esposta. OpenAI avrebbe riconosciuto che i filtri possono faticare con identificativi rari e riferimenti privati ambigui o dipendenti dal contesto. 1

Dire «resti tra noi» non blocca la revisione

Una richiesta di riservatezza inserita nel prompt è un’istruzione all’interno della conversazione, non una preferenza di trattamento dei dati dell’account. Non prevale quindi sulle impostazioni del servizio e non impedisce, di per sé, che una chat venga selezionata per un flusso di miglioramento come quello descritto da 404 Media. 1

È prudente non considerare un chatbot consumer come un canale confidenziale solo perché il dialogo appare personale. Se un’informazione sarebbe dannosa da rivelare a un revisore autorizzato, è più sicuro non inserirla in uno spazio personale dove il miglioramento del modello è attivo.

Come impedire l’uso delle nuove chat per migliorare ChatGPT

La documentazione di OpenAI sui Data Controls indica che gli utenti di spazi di lavoro personali possono disattivare il miglioramento del modello seguendo questo percorso:

1. Profilo → Impostazioni
2. Controlli dei dati
3. Disattivare «Improve the model for everyone»

Con l’opzione disattivata, le nuove conversazioni restano nella cronologia ma non vengono usate per addestrare o migliorare i modelli di ChatGPT. L’impostazione è associata all’account, non a un singolo dispositivo.

Conta anche il momento in cui si cambia impostazione: OpenAI precisa che la rinuncia si applica alle nuove conversazioni e non rimuove retroattivamente le chat già inviate mentre il miglioramento era abilitato.

Account Business, Enterprise, Edu e API: cosa cambia

OpenAI afferma di non usare per impostazione predefinita input e output di ChatGPT Business, Enterprise, Edu e della piattaforma API per addestrare i modelli. Al contrario, per gli utenti Free, Plus e Pro negli spazi di lavoro personali la condivisione per il miglioramento dei modelli è attiva di default, pur potendo essere disabilitata nei Controlli dei dati.

Questa distinzione non elimina gli obblighi di governance dei dati per aziende, enti o scuole: occorre comunque rispettare le regole interne e controllare le impostazioni effettive dello spazio di lavoro. Resta però una differenza importante rispetto al trattamento predefinito delle chat consumer.

Anche altri fornitori usano revisori umani?

Il ricorso al feedback umano non è esclusivo di OpenAI. L’informativa privacy di Anthropic afferma che l’azienda può addestrare e migliorare i propri modelli usando input e output forniti da utenti o crowd worker, salvo rinuncia dell’utente. Una rassegna accademica delle pratiche privacy dei principali fornitori segnala inoltre che sia Google sia OpenAI contemplano la revisione umana delle chat degli utenti per addestramento o miglioramento.

La questione, quindi, non è soltanto se esista una revisione umana: è capire quando le conversazioni possono entrarvi, fino a che punto la de-identificazione protegge davvero il contenuto e quali impostazioni servono per modificare il trattamento applicabile.

Il consiglio pratico sulla privacy

Project Lily, per come è stato raccontato da 404 Media, ricorda che una chat consumer con un’IA non è automaticamente uno scambio confidenziale uno a uno. Le misure di de-identificazione possono ridurre l’esposizione, ma non necessariamente eliminare ogni dettaglio rivelatore in una conversazione ricca di contesto personale. 1

Prima di condividere informazioni sensibili in ChatGPT, controllare Impostazioni → Controlli dei dati → Improve the model for everyone. Se il miglioramento del modello è attivo, le nuove chat vanno considerate potenzialmente idonee a essere utilizzate per migliorare il servizio; se è disattivato, OpenAI afferma che le nuove conversazioni non verranno usate a tale scopo.