Project Lily: perché la revisione umana delle chat di ChatGPT solleva dubbi sulla privacy

L’inchiesta di 404 Media su un’iniziativa interna di OpenAI chiamata Project Lily descrive un programma strutturato di feedback umano basato su conversazioni reali con ChatGPT. Il nodo non è soltanto il possibile uso delle chat per migliorare il modello: secondo il reportage, collaboratori esterni potevano leggere materiale privo dei nomi utente ma comunque ricco di contesto personale. 2

Come avrebbe funzionato Project Lily

Stando ai materiali riservati esaminati da 404 Media, OpenAI avrebbe reclutato centinaia di collaboratori tramite società di staffing per esaminare prompt reali e risposte di ChatGPT. Il compenso riportato supera i 50 dollari l’ora. I revisori avrebbero dovuto riassumere l’intento dell’utente, confrontare quattro risposte candidate e attribuire loro un voto su una scala da 1 a 7. 2

Lo scopo dichiarato sarebbe migliorare la qualità delle risposte: rendere ChatGPT meno meccanico nel tono, limitare le affermazioni troppo simili a quelle di un essere umano e ridurre l’eccessiva tendenza a dare ragione all’utente o ad adulare. L’uso di feedback umano è una pratica nota nello sviluppo dell’IA; l’impiego di conversazioni reali di utenti rende però la questione della privacy più concreta. 2

Quali informazioni potevano vedere i revisori

404 Media riferisce che i revisori potevano ricevere scambi completi e, in alcuni casi, un riepilogo delle memorie dell’utente. I nomi utente non sarebbero stati mostrati, ma il contesto disponibile poteva rivelare posizione approssimativa, professione, interessi precedenti e circostanze personali. 2

La differenza è sostanziale: togliere un nome non equivale necessariamente a rendere una conversazione anonima o innocua. L’insieme di dettagli su lavoro, famiglia, salute o un episodio insolito può essere sensibile anche senza identificare direttamente il titolare dell’account.

Il ruolo e i limiti del Privacy Filter

OpenAI descrive il proprio Privacy Filter come un modello progettato per rilevare e oscurare informazioni che consentono di identificare una persona nel testo. 4647

Nel caso riportato da Project Lily, OpenAI ha dichiarato di rimuovere i nomi utente e di applicare un filtro automatico prima che il materiale arrivi ai collaboratori. Tuttavia, 404 Media ha segnalato che nelle conversazioni sottoposte a revisione potevano rimanere dettagli sensibili nonostante queste misure. 2

È un limite tipico della redazione automatica: nomi, indirizzi email e numeri di telefono possono essere più facili da individuare; il contesto potenzialmente identificativo — una professione, una zona, un evento personale distintivo o la loro combinazione — è molto più difficile da classificare con affidabilità.

Cosa erano chiamati a segnalare i revisori

Le linee guida descritte dal reportage andavano oltre la semplice correttezza. Ai collaboratori sarebbe stato chiesto di rilevare, tra le altre cose:

• formulazioni stereotipate o innaturali da chatbot;
• affermazioni che implicano sentimenti o esperienze vissute umane;
• accordo eccessivo, adulazione o comportamento compiacente;
• errori fattuali;
• esposizione di informazioni personali;
• problemi di sicurezza. 2

L’attenzione al comportamento compiacente è rilevante: un modello troppo pronto a confermare l’utente può sembrare rassicurante, ma non mettere in discussione presupposti sbagliati, rischiosi o dannosi. Project Lily sarebbe servito anche a calibrare questo aspetto. 2

Scrivere «resti tra noi» non è un’impostazione della privacy

Inserire nel prompt una richiesta di riservatezza non modifica i controlli dati dell’account. È parte del contenuto della chat, non un’istruzione tecnica capace di prevalere sulle impostazioni di utilizzo dei dati di OpenAI.

Per gli spazi di lavoro personali di ChatGPT, il controllo documentato da OpenAI è «Migliora il modello per tutti». Se è attivo, le chat possono essere usate per migliorare i modelli; se viene disattivato, OpenAI afferma che non addestrerà i modelli sulle nuove conversazioni. 2130

Come impedire l’uso delle nuove chat per il miglioramento dei modelli

Per chi ha effettuato l’accesso, le istruzioni di OpenAI sono:

1. Aprire il menu del profilo in ChatGPT.
2. Selezionare Impostazioni.
3. Aprire Controlli dati.
4. Disattivare «Migliora il modello per tutti». 1921

L’impostazione vale per l’account, non per il singolo dispositivo. La cronologia esistente può rimanere disponibile dopo la disattivazione, ma OpenAI afferma che le nuove conversazioni non verranno utilizzate per addestrare i modelli. 1930

OpenAI offre anche l’opzione «Do not train on my content» attraverso il proprio portale privacy. Per le attività su ChatGPT e Codex, l’azienda dice che è sufficiente usare questa opzione oppure i Controlli dati nell’app: non è necessario attivarle entrambe. 21

Quali piani hanno protezioni predefinite

OpenAI afferma che, negli spazi di lavoro personali Free, Plus e Pro, la condivisione dei dati per l’addestramento è attiva per impostazione predefinita, pur potendo essere disattivata dall’utente. Per ChatGPT Business, Enterprise, Edu e la piattaforma API, l’azienda afferma invece di non usare per impostazione predefinita input e output forniti per addestrare i propri modelli. 23

Questo non rende automaticamente priva di rischi ogni conversazione aziendale, per qualsiasi finalità. Le organizzazioni dovrebbero comunque verificare impostazioni dello spazio di lavoro, politiche di conservazione, controlli di condivisione e regole interne prima di inserire informazioni riservate in uno strumento di IA.

In sintesi: cosa fare

Project Lily, per come è stato raccontato da 404 Media, ricorda che le chat con un’IA destinata ai consumatori vanno considerate come un servizio con impostazioni configurabili sull’uso dei dati, non come un canale intrinsecamente confidenziale. Prima di avviare una nuova conversazione contenente dati personali molto sensibili, informazioni legali, sanitarie, finanziarie o proprietarie, la misura immediata più prudente è disattivare «Migliora il modello per tutti». 221

L’esclusione riguarda l’uso delle nuove conversazioni per il miglioramento dei modelli. Non è una richiesta da scrivere nel prompt e la documentazione di OpenAI non la presenta come un mezzo per ritirare materiale già inviato. 2130