Projeto Lily: como contratados da OpenAI revisariam conversas reais do ChatGPT

Uma investigação da 404 Media sobre o Projeto Lily, iniciativa interna da OpenAI, descreve uma operação de feedback humano que usa conversas reais de consumidores do ChatGPT. De acordo com documentos vazados, exemplos de prompts e declarações analisados pelo veículo, contratados terceirizados podem ler o contexto das conversas para avaliar respostas do modelo — inclusive quando o conteúdo traz dados pessoais sensíveis. 1

Para quem usa o ChatGPT para questões de saúde, relacionamentos, trabalho, assuntos jurídicos ou desabafos pessoais, o ponto principal é simples: pedir ao chatbot para “guardar segredo” não é uma configuração de privacidade. O que importa é se a conta permite que novas conversas sejam usadas para melhorar os modelos. 1

O que os revisores do Projeto Lily fariam

Segundo a 404 Media, centenas de contratados, recrutados por empresas de staffing e pagos a mais de US$ 50 por hora, analisam um grande fluxo de conversas reais do ChatGPT. As tarefas relatadas incluem:

• resumir a intenção do usuário;
• comparar quatro respostas possíveis do modelo;
• atribuir notas de 1 a 7; e
• apontar comportamentos que tornam a resposta menos útil ou menos confiável. 1

Os critérios de avaliação teriam como foco a qualidade e o tom das respostas. Os revisores são instruídos a sinalizar linguagem com “cara de IA”, erros factuais, excesso de concordância ou bajulação, problemas de segurança e respostas que dão a entender, indevidamente, que o modelo tem experiências ou emoções próprias. 1

Esse ciclo de avaliação busca deixar as respostas mais naturais e menos mecânicas. Ao mesmo tempo, significa que a melhoria de qualidade pode envolver acesso humano ao conteúdo das conversas. 1

Tirar o nome não torna uma conversa necessariamente anônima

A OpenAI disse à 404 Media que os nomes de usuário são removidos e que um Filtro de Privacidade é aplicado antes de o material chegar aos revisores. Ainda assim, a investigação encontrou exemplos em que os materiais de revisão podiam conter o histórico completo da conversa e resumos de memória gerados pelo próprio modelo. Esses resumos incluíam, segundo a reportagem, dados como localização aproximada, profissão e circunstâncias pessoais muito íntimas. 1

O problema está na identificação pelo contexto. Mesmo sem nome ou identificador da conta, a combinação de acontecimentos de vida, detalhes profissionais, região e referências incomuns pode tornar alguém reconhecível para quem o conhece — ou, no mínimo, expor informações que a pessoa não gostaria de compartilhar. A 404 Media informou que a OpenAI reconheceu que filtros podem ter dificuldade com identificadores pouco comuns e referências privadas ambíguas ou dependentes de contexto. 1

“Deixe isso entre nós” não impede uma revisão

Dizer ao ChatGPT para manter uma conversa em sigilo é uma instrução dada dentro do chat, não uma preferência de privacidade da conta. Isso não substitui as configurações de uso de dados do serviço nem impede que a conversa seja selecionada para um fluxo de melhoria como o descrito pela 404 Media. 1

Por isso, não é prudente tratar um chatbot de uso pessoal como canal confidencial apenas porque a conversa parece íntima. Se uma informação seria prejudicial caso fosse vista por um revisor autorizado, o mais seguro é não digitá-la em um espaço pessoal com a opção de melhoria do modelo ativada.

Como impedir que novas conversas sejam usadas para melhorar o ChatGPT

A documentação de Controles de Dados da OpenAI diz que usuários de espaços de trabalho pessoais podem desativar a melhoria do modelo pelo caminho:

1. Perfil → Configurações
2. Controles de Dados
3. Desative “Melhorar o modelo para todos”

Com essa opção desligada, novas conversas continuam aparecendo no histórico, mas não são usadas para treinar ou melhorar os modelos do ChatGPT. A configuração vale para a conta, e não apenas para um aparelho específico.

O momento da alteração importa: a OpenAI afirma que a exclusão se aplica a novas conversas. Ela não remove retroativamente chats que já tenham sido enviados enquanto a melhoria do modelo estava habilitada.

E quem usa contas Business, Enterprise ou Edu?

A OpenAI afirma que, por padrão, não usa entradas e saídas do ChatGPT Business, Enterprise, Edu nem da plataforma de API para treinar seus modelos. Já em espaços pessoais dos planos ChatGPT Free, Plus e Pro, o compartilhamento para melhoria do modelo vem ativado por padrão, embora possa ser desativado nos Controles de Dados.

Isso não elimina as obrigações de governança de dados de empresas, escolas e universidades. Equipes ainda devem seguir as políticas da organização e conferir as configurações do espaço de trabalho usado. Mas a diferença é relevante em relação ao tratamento padrão dos chats de consumidores.

A revisão humana é exclusiva da OpenAI?

Não. A política de privacidade da Anthropic informa que a empresa pode treinar e melhorar seus modelos com entradas e saídas fornecidas por usuários ou trabalhadores de plataformas de crowdsourcing, salvo se o usuário optar por não participar. Uma análise acadêmica sobre práticas de privacidade de grandes empresas de IA também apontou que Google e OpenAI mencionam revisão humana de chats de usuários para treinamento ou melhoria de modelos.

A questão, portanto, não é apenas a existência de feedback humano. É saber quando uma conversa pode entrar nesse processo, até que ponto a desidentificação protege de fato o conteúdo e qual configuração precisa ser alterada pelo usuário.

O recado prático sobre privacidade

O Projeto Lily, conforme relatado pela 404 Media, reforça que uma conversa com uma IA de uso pessoal não é automaticamente uma troca confidencial de um para um. Medidas de desidentificação podem reduzir a exposição, mas não necessariamente eliminam todos os detalhes reveladores de um diálogo cheio de contexto pessoal. 1

Antes de compartilhar informações sensíveis no ChatGPT, confira Configurações → Controles de Dados → Melhorar o modelo para todos. Se a melhoria do modelo estiver ativada, trate as novas conversas como potencialmente elegíveis para melhorar o serviço; se estiver desativada, a OpenAI diz que elas não serão usadas para essa finalidade.