Project Lily: denúncia diz que revisores humanos leram conversas reais no ChatGPT

A reportagem da 404 Media sobre uma iniciativa interna da OpenAI chamada Project Lily descreve um programa estruturado de feedback humano baseado em conversas reais do ChatGPT. A questão de privacidade não é apenas o uso de chats para aperfeiçoar modelos: segundo a investigação, contratados externos podiam ler material sem nomes de usuário, mas ainda com informações pessoais sensíveis no contexto. 2

O que o Project Lily teria feito

De acordo com documentos vazados analisados pela 404 Media, a OpenAI recrutou centenas de contratados por empresas de recrutamento para revisar prompts reais e respostas do ChatGPT. O trabalho pagaria mais de US$ 50 por hora. Os revisores resumiam a intenção do usuário, comparavam quatro respostas candidatas e atribuíam notas de 1 a 7. 2

O objetivo relatado era melhorar a qualidade das respostas — deixando o ChatGPT menos mecânico, reduzindo afirmações excessivamente humanas e limitando concordância ou bajulação em excesso. Feedback humano é uma técnica conhecida no desenvolvimento de IA; o que torna o caso mais sensível é o uso relatado de conversas de consumidores reais. 2

Que informações os revisores poderiam ver

A 404 Media informou que os revisores poderiam receber conversas completas e, em alguns casos, um resumo das memórias do usuário. Os nomes de usuário não eram exibidos, mas o contexto disponível ainda podia revelar localização aproximada, profissão, interesses anteriores e circunstâncias pessoais. 2

Essa diferença é importante: tirar o nome não torna, por si só, uma conversa inofensiva ou efetivamente anônima. Uma combinação de dados sobre trabalho, família, saúde ou um acontecimento incomum pode ser sensível mesmo sem identificar diretamente o titular da conta.

Onde entra o Privacy Filter da OpenAI

A OpenAI afirma que seu Privacy Filter é um modelo criado para detectar e ocultar informações de identificação pessoal em textos. 4647

No relato sobre o Project Lily, a empresa disse que removia nomes de usuário e aplicava um filtro automatizado antes de enviar o material aos contratados. Ainda assim, a 404 Media reportou que detalhes sensíveis podiam permanecer nas conversas revisadas. 2

Esse é o limite da ocultação automática: um sistema pode reconhecer identificadores evidentes, como nome, e-mail ou telefone, enquanto sinais indiretos de identidade são muito mais difíceis de detectar com consistência.

O que os revisores deveriam sinalizar

Segundo a reportagem, as orientações iam além da precisão básica. Os contratados deveriam apontar problemas como:

• linguagem padronizada ou artificial de IA;
• alegações que sugerem sentimentos ou experiências humanas;
• concordância, lisonja ou comportamento excessivamente submisso;
• erros factuais;
• exposição de dados pessoais;
• questões de segurança. 2

A ênfase na chamada sícophancy — a tendência de concordar demais com o usuário — é relevante. Um modelo excessivamente disposto a validar alguém pode parecer acolhedor, mas deixar de questionar premissas erradas, perigosas ou prejudiciais. O Project Lily teria como uma de suas finalidades ajustar esse comportamento. 2

Pedir “guarde isso entre nós” não muda a configuração de privacidade

Escrever um pedido de sigilo dentro do prompt não altera os controles de uso de dados da conta. Trata-se apenas de conteúdo da conversa, e não de uma instrução técnica capaz de substituir as configurações da OpenAI.

Para espaços de trabalho pessoais do ChatGPT, o controle documentado é “Improve the model for everyone”. Quando está ativado, as conversas podem ser usadas para aprimorar os modelos; quando é desativado, a OpenAI afirma que não treinará modelos com novas conversas. 2130

Como impedir que novas conversas sejam usadas para aperfeiçoar modelos

Para usuários conectados à conta, as instruções da OpenAI são:

1. Abra o menu do seu perfil no ChatGPT.
2. Selecione Configurações.
3. Acesse Controles de dados.
4. Desative “Improve the model for everyone”. 1921

A configuração vale para a conta, não para um aparelho específico. O histórico existente pode continuar disponível depois da mudança, mas a OpenAI diz que as novas conversas não serão usadas para treinar seus modelos. 1930

A empresa também oferece a opção “Do not train on my content” em seu portal de privacidade. Para tarefas no ChatGPT e no Codex, a OpenAI afirma que essa opção ou os Controles de dados do produto já são suficientes; não é necessário usar as duas. 21

Quais planos têm proteção padrão contra treinamento?

A OpenAI diz que, em espaços de trabalho pessoais dos planos Free, Plus e Pro, o compartilhamento de dados para treinamento fica ativado por padrão, embora seja possível optar por não participar. Já no ChatGPT Business, Enterprise, Edu e na plataforma de API, a empresa afirma que não usa dados de entrada e saída fornecidos para treinar os modelos por padrão. 23

Isso não significa que toda conversa corporativa seja automaticamente isenta de riscos para qualquer finalidade. Empresas e equipes ainda devem revisar configurações do espaço de trabalho, práticas de retenção, controles de compartilhamento e suas políticas internas antes de inserir informações confidenciais em uma ferramenta de IA.

A conclusão prática

O Project Lily, conforme relatado pela 404 Media, é um lembrete para tratar chats de IA voltados ao consumidor como um serviço com controles de uso de dados — e não como um canal inerentemente confidencial. Antes de iniciar uma conversa que envolva dados pessoais muito sensíveis, questões jurídicas, saúde, finanças ou informações proprietárias, a medida imediata mais segura é desativar “Improve the model for everyone”. 221

A desativação controla o uso de novas conversas para aperfeiçoamento de modelos. Não é um pedido escrito no prompt, e a documentação da OpenAI não a descreve como uma forma de retirar conteúdo já enviado. 2130