OpenAI tenta detectar uso indevido de IA sem abrir mão da privacidade empresarial

A OpenAI está testando uma forma de monitorar possíveis abusos de modelos avançados sem abandonar a promessa de Zero Data Retention (ZDR) — ou retenção zero de dados — para determinadas implantações empresariais. Anunciado em 19 de agosto de 2026, o Private Safety Processing foi projetado para identificar padrões de risco em interações relacionadas, em vez de avaliar cada solicitação isoladamente, mantendo o conteúdo do cliente inacessível aos funcionários da empresa. 31

A proposta tenta resolver um dilema importante para o mercado corporativo: as equipes de segurança precisam de visibilidade suficiente para perceber abusos que se desenvolvem ao longo do tempo, enquanto empresas de setores regulados ou sensíveis à segurança preferem que o provedor de IA não retenha seus prompts e respostas.

O que muda no Zero Data Retention

Sistemas compatíveis com o ZDR tradicionalmente avaliam cada interação de forma individual. Esse modelo pode não perceber um ataque distribuído no qual nenhum prompt, sozinho, pareça claramente abusivo, mas uma sequência de pedidos relacionados acaba contribuindo para um objetivo nocivo.

Segundo a OpenAI, o Private Safety Processing amplia as salvaguardas automatizadas para interações relacionadas. Assim, o sistema pode procurar padrões mais amplos, incluindo atividades associadas a tentativas de invasão conduzidas por pessoas ou por agentes de IA desalinhados. 31

Na prática, uma série de solicitações aparentemente legítimas poderia formar um padrão de risco quando analisada em conjunto — por exemplo, um fluxo potencialmente relacionado ao desenvolvimento de malware ou a uma tentativa de intrusão. As fontes descrevem uma capacidade de detectar padrões entre múltiplas interações, não uma garantia de que a ferramenta conseguirá identificar com precisão todas as campanhas desse tipo.

O que a OpenAI diz que consegue ver

A principal barreira de privacidade está no fato de que a análise deve ser feita automaticamente, sem expor os prompts e as respostas subjacentes aos funcionários da OpenAI. Quando um possível problema é detectado, a empresa afirma que o sistema envia um sinal de segurança definido de forma restrita, em vez do conteúdo bruto da conversa. 310

De acordo com relatos sobre a prévia, os dados do cliente podem permanecer em uma infraestrutura controlada por ele ou ser protegidos por chaves de criptografia mantidas pelo próprio cliente. 157 A arquitetura busca preservar as vantagens de confidencialidade normalmente associadas ao ZDR, ao mesmo tempo que fornece à OpenAI informação suficiente para reagir a um possível incidente de segurança.

Isso não significa que o sistema não terá consequências operacionais. Um sinal pode levar a uma medida de segurança contra a conta ou a um pedido para que a empresa cliente investigue o caso. O cliente também pode fornecer voluntariamente informações relevantes ao contestar um alerta ou colaborar com uma apuração. A prévia, porém, não é descrita como um mecanismo que dá à OpenAI acesso automático às conversas retidas. 23

As perguntas ainda sem resposta

O Private Safety Processing está sendo testado com clientes iniciais selecionados, e não apresentado como um serviço amplo e consolidado. 35 Por isso, o anúncio ainda não esclarece pontos importantes para compradores corporativos:

• Qual é a precisão dos sinais de risco entre diferentes conversas?
• Com que frequência atividades legítimas de uma empresa podem gerar falsos positivos?
• Quais medidas são tomadas para cada categoria de risco?
• Como o cliente pode auditar ou contestar um alerta se a OpenAI não puder consultar o conteúdo original?
• Que documentação técnica será disponibilizada antes de uma expansão do serviço?

A promessa, portanto, é mais específica do que dizer que a privacidade resolverá o problema do uso indevido. A OpenAI está testando se um sinal limitado pode contribuir para a detecção de abusos sem exigir a custódia mais ampla dos dados e o modelo de revisão humana associados à retenção do tráfego dos clientes.

Como a política da Anthropic é diferente

A Anthropic adotou uma abordagem mais orientada à retenção para seus modelos cobertos. A política exige que prompts enviados e respostas geradas por esses modelos — incluindo modelos da classe Mythos e futuras versões com capacidades semelhantes — sejam mantidos por 30 dias para fins de segurança.

A empresa afirma que os dados retidos não são usados para treinar novos modelos Claude nem para finalidades que não estejam relacionadas à segurança. Entre as proteções publicadas estão a restrição de acesso, o registro dos acessos humanos e a exclusão dos dados após 30 dias em quase todos os casos.

Esse modelo dá às equipes de segurança uma janela para investigar ataques complexos e revisar possíveis falsos positivos. Em contrapartida, cria uma obrigação maior de governança de dados para os clientes.

Reportagens sobre uma mudança planejada indicam que a Anthropic continuaria exigindo a retenção por 30 dias, mas permitiria que clientes empresariais mantivessem os dados em sua própria infraestrutura de nuvem. Isso poderia reduzir algumas preocupações sobre custódia, mas não eliminaria a exigência de retenção.

Duas apostas diferentes para a segurança corporativa

As empresas estão fazendo escolhas distintas:

• OpenAI: usar análise automatizada entre várias interações e enviar apenas um sinal de segurança limitado, minimizando o acesso do provedor ao conteúdo do cliente.
• Anthropic: manter o tráfego dos modelos cobertos por 30 dias, sob controles de acesso, preservando mais informações para investigação e revisão.

A proposta da OpenAI pode ser mais atraente para organizações cujas regras de contratação rejeitam fortemente a retenção de conteúdo pelo provedor. O ponto fraco é que um sinal mais enxuto pode oferecer menos evidências para investigar um incidente contestado ou ambíguo.

A abordagem da Anthropic pode proporcionar maior visibilidade forense, mas impõe uma carga adicional de retenção e conformidade — inclusive para clientes que prefeririam um arranjo de retenção zero.

Nenhum dos dois modelos elimina o problema fundamental. É difícil distinguir o uso indevido em várias etapas de uma pesquisa legítima, e proteções de privacidade podem limitar as evidências disponíveis para investigadores humanos. O teste decisivo para a prévia da OpenAI será saber se seus sinais automatizados são precisos o bastante para apoiar medidas de segurança sem exigir acesso ao conteúdo que eles resumem.

Por que isso importa na disputa entre as empresas

A diferença de abordagem chega em um momento de competição mais intensa por clientes corporativos e usuários de modelos de fronteira. O ritmo de receita anualizado da Anthropic teria ultrapassado US$ 65 bilhões no fim de julho. Esse indicador é uma projeção baseada no desempenho recente, e não uma receita anual já registrada.

Investidores também teriam discutido uma avaliação de US$ 2 trilhões ou mais para a Anthropic em uma possível oferta pública inicial de ações. Trata-se de uma expectativa reportada por fontes externas, não de uma avaliação garantida nem de um IPO concluído.

Esses números ajudam a contextualizar a disputa, mas não provam que o Private Safety Processing tenha sido criado exclusivamente como resposta competitiva. A conclusão mais segura é que o anúncio aborda uma preocupação concreta de compras corporativas: como usar modelos altamente capazes com monitoramento mais forte contra abusos, limitando ao mesmo tempo o acesso do provedor a dados empresariais confidenciais.

As fontes disponíveis também não estabelecem prazo ou condições definitivas para um eventual IPO da OpenAI. Qualquer afirmação de que a empresa tem um plano iminente ou finalizado de abertura de capital exigiria confirmação independente e atualizada.

Conclusão

O Private Safety Processing é a tentativa da OpenAI de ampliar o ZDR de uma filtragem de interações individuais para um monitoramento de segurança entre várias conversas, sem reter prompts e respostas de clientes como conteúdo acessível a seus funcionários.

O sistema deve produzir um sinal de segurança restrito quando identificar um possível problema, enquanto uma eventual colaboração adicional do cliente é descrita como voluntária. Isso faz da ferramenta uma alternativa voltada à privacidade ao modelo de retenção por 30 dias da Anthropic — mas, por enquanto, ela continua sendo apenas uma prévia.

Empresas interessadas devem tratar as afirmações da OpenAI como uma proposta em fase de desenho e testes até que existam evidências independentes sobre a precisão da detecção, a taxa de falsos positivos, a possibilidade de auditoria e o processo real de aplicação das medidas de segurança.