Private Safety Processing: o sistema da OpenAI que monitora riscos sem ler as conversas

O ponto-chave é separar análise de retenção. O Private Safety Processing foi projetado para examinar atividades relacionadas para fins de segurança, mas a OpenAI afirma que os prompts e as respostas subjacentes não ficam expostos à sua equipe por meio do sistema.

Segundo a OpenAI, há duas possibilidades de controle de dados em implantações ZDR:

• O conteúdo do cliente pode permanecer em uma infraestrutura controlada pelo próprio cliente.
• Em uma configuração com armazenamento hospedado pela OpenAI, os dados podem ser criptografados com chaves controladas pelo cliente, e não pela equipe da OpenAI.

Nos dois casos, sistemas automatizados podem identificar possíveis abusos e devolver um sinal de segurança limitado sem expor os prompts ou as respostas originais.

O que a OpenAI recebe quando detecta uma ameaça?

De acordo com a descrição da prévia, a OpenAI recebe um alerta restrito sobre o tipo de atividade envolvida. O diagrama apresentado pela empresa descreve a saída como uma categoria e um nível de gravidade do alerta, e não como a própria conversa.

Esse sinal pode apoiar decisões de segurança ou medidas de aplicação das regras, mas não equivale ao envio do histórico completo da sessão. Na prática, o fluxo seria:

1. Sistemas automatizados examinam interações relacionadas em busca de um padrão potencialmente prejudicial.
2. Se o padrão ultrapassar um determinado limite de risco, o sistema gera uma classificação de segurança limitada.
3. A OpenAI recebe essa classificação, e não os prompts, as respostas ou a transcrição da conversa.
4. O cliente mantém a possibilidade de investigar a atividade subjacente em seu próprio ambiente.

Como ainda se trata de uma prévia, detalhes como implementação, limites de detecção e procedimentos para lidar com erros serão importantes para empresas interessadas. A OpenAI afirmou que planeja iniciar uma distribuição mais ampla e publicar um documento técnico em setembro de 2026.

Por que a equipe da OpenAI normalmente não pode ler uma conversa sinalizada

Um alerta de segurança não dá automaticamente à equipe da OpenAI acesso à conversa. Nas configurações ZDR descritas pela empresa, o conteúdo do cliente não é retido e, no modelo de armazenamento hospedado pela OpenAI, as chaves de descriptografia permanecem sob controle do cliente.

O cliente pode optar por compartilhar materiais relevantes caso queira contestar uma medida de aplicação das regras, explicar um uso legítimo ou ajudar na investigação de um abuso confirmado. Sem esse compartilhamento voluntário, o alerta enviado à OpenAI fica restrito às informações de segurança geradas pela máquina.

O resultado é uma separação entre a evidência sob controle do cliente e os sinais de risco recebidos pelo provedor. Isso pode reduzir a quantidade de material sensível que a empresa precisa manusear, sem eliminar a capacidade de identificar padrões que filtros aplicados pedido a pedido poderiam deixar passar.

Quem está testando a prévia?

A OpenAI citou Glean, Databricks, Abridge e Microsoft entre as empresas que ajudam a desenvolver ou testar a prévia. Outros relatos também apontam Microsoft e Databricks como clientes iniciais envolvidos nos testes.

O recurso não foi apresentado como uma configuração geral para consumidores. O foco são implantações elegíveis da API, voltadas a organizações que querem usar modelos avançados mantendo controle rigoroso sobre prompts e respostas.

OpenAI e Anthropic fazem escolhas diferentes

A abordagem da OpenAI prioriza a detecção de abusos com o mínimo possível de acesso do provedor ao conteúdo do cliente. A política da Anthropic para seus modelos cobertos faz uma escolha operacional diferente: prompts e respostas enviados a esses modelos são mantidos por 30 dias para apoiar o trabalho de segurança, inclusive com revisão humana controlada.

A documentação da Anthropic informa que a exigência vale para modelos cobertos, incluindo os modelos da classe Mythos, e que eles não estão disponíveis sob ZDR. A empresa também afirma que os dados retidos não são usados para treinar modelos sem autorização expressa do cliente.

A diferença prática é significativa:

• Private Safety Processing da OpenAI: análise automatizada de interações relacionadas; segundo a descrição da prévia, a OpenAI recebe um sinal de segurança limitado, e não o conteúdo subjacente.
• Política da Anthropic para modelos cobertos: prompts e respostas são mantidos por 30 dias para apoiar o trabalho de segurança e a revisão controlada.

Nenhuma das duas abordagens elimina a necessidade de governança por parte do cliente. Antes de adotar qualquer modelo em fluxos sensíveis, as empresas ainda precisam verificar regras de elegibilidade, arquitetura de implantação, controles de acesso, retenção, requisitos regionais, processo de contestação e compromissos contratuais.

Por que isso importa para empresas reguladas

Organizações dos setores financeiro, de saúde e jurídico frequentemente lidam com informações sujeitas a confidencialidade contratual, regras de privacidade, deveres profissionais ou exigências específicas do setor. A capacidade de um provedor de reter e eventualmente revisar prompts pode afetar a análise de minimização de dados, as aprovações internas, o desenho de auditorias e a avaliação de risco de fornecedores.

Isso não significa que uma política de retenção de 30 dias seja automaticamente proibida, nem que o ZDR, sozinho, torne uma implantação compatível com todas as normas. Significa que os dois modelos geram perguntas diferentes para as equipes de segurança e jurídico. Os termos da Anthropic exigem que a organização considere a retenção e a revisão pelo provedor, enquanto a OpenAI posiciona o ZDR e o Private Safety Processing como mecanismos para limitar o acesso do provedor ao conteúdo.

Para um comprador corporativo, as perguntas mais importantes são práticas:

• O modelo e a implantação são elegíveis ao ZDR?
• Onde o conteúdo é processado e, se for armazenado, quem controla as chaves de criptografia?
• Quais campos aparecem exatamente em um alerta de segurança?
• O cliente pode auditar ou contestar um alerta sem divulgar a conversa completa?
• O que acontece quando o provedor suspeita de um abuso grave?
• Os termos de retenção e revisão do provedor são compatíveis com as obrigações contratuais e regulatórias da organização?

A disputa também é sobre produto e mercado

O Private Safety Processing transforma a privacidade em parte do próprio produto de segurança de IA. O desafio já não é apenas bloquear um pedido inseguro, mas detectar um uso coordenado e prolongado dos modelos sem exigir acesso a todas as conversas do cliente.

A OpenAI apresenta uma resposta: manter o conteúdo na infraestrutura do cliente ou protegê-lo com chaves controladas por ele, usar sistemas automatizados para identificar padrões entre interações e enviar ao provedor uma classificação de risco restrita.

A Anthropic apresenta outra: conservar prompts e respostas por um período limitado para que suas equipes de segurança possam investigá-los, com revisão controlada e uma limitação declarada para o uso em treinamento de modelos.

Essa diferença também se tornou um argumento competitivo na disputa por clientes corporativos. A Anthropic teria informado investidores de que seu ritmo anualizado de receita chegou a US$ 65 bilhões no fim de julho, enquanto o ritmo anualizado reportado da OpenAI era de US$ 40 bilhões.

Relatos baseados em números preliminares também colocaram a receita da Anthropic no segundo trimestre de 2026 acima de US$ 11,5 bilhões — valor que teria superado a receita trimestral da OpenAI pela primeira vez. Como são números de empresas privadas, eles não equivalem a resultados públicos auditados.

A possibilidade de uma oferta pública inicial da Anthropic com avaliação de até US$ 2 trilhões também foi noticiada como expectativa de investidores, não como uma avaliação já estabelecida no mercado.

Já a alegação de que a OpenAI teria protocolado confidencialmente um formulário S-1 em junho de 2026 não é confirmada pelas evidências de maior qualidade reunidas aqui. As reportagens disponíveis associam o protocolo confidencial à Anthropic. Da mesma forma, a ideia de um crescimento mais lento da OpenAI no segundo trimestre deve ser tratada como comparação reportada, e não como divulgação confirmada de uma companhia aberta.

A escolha entre os dois modelos dependerá da tolerância a riscos do cliente, da sensibilidade dos dados e da visibilidade investigativa que ele considera necessária. A distribuição mais ampla do Private Safety Processing e o documento técnico prometido pela OpenAI deverão fornecer os detalhes necessários para avaliar se as garantias de privacidade funcionam como anunciado em implantações reais.