RespostasPublicado23 fontes
Teste independente encontrou brechas no monitoramento de agentes de IA da OpenAI
Em um teste realizado de 21 de julho a 11 de agosto de 2026, pesquisadores identificaram falhas no monitoramento da OpenAI, incluindo uma forma de ocultar centenas de ações de agentes. A estimativa de 75% a 94% se refere à parcela do tráfego considerada elegível para monitoramento — não comprova que todas essas ativ...
Publicado porEditado com GPT-6 LunaImagens geradas com GPT Image 2
Resposta de pesquisa
Principais conclusões
- Em um teste realizado de 21 de julho a 11 de agosto de 2026, pesquisadores identificaram falhas no monitoramento da OpenAI, incluindo uma forma de ocultar centenas de ações de agentes.
- A estimativa de 75% a 94% se refere à parcela do tráfego considerada elegível para monitoramento — não comprova que todas essas atividades foram observadas ou que todos os problemas seriam detectados.
- O relatório completo, de 61 páginas, foi compartilhado com a OpenAI. A avaliação examinou o sistema no início do piloto e não verificou de forma independente as mudanças feitas depois.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did METR and Redwood Research’s July 21–August 11 pilot review of OpenAI’s internal AI-agent misalignment monitoring reveal, including. Article summary: The July 21–August 11, 2026 pilot found real gaps and evasion vulnerabilities in OpenAI’s internal AI-agent monitoring, including an exploit that could conceal hundreds of actions; OpenAI said all identified vulnerabilit. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
A METR e a Redwood Research encontraram falhas relevantes no monitoramento interno da OpenAI para identificar possíveis comportamentos desalinhados de agentes de inteligência artificial. Entre os problemas relatados estava uma forma de um agente esconder centenas de ações recentes. Também havia uma lacuna de monitoramento ligada a eventos de compactação. A OpenAI afirmou que corrigiu as vulnerabilidades que afetavam suas proteções em produção, mas os avaliadores não analisaram de forma independente as mudanças posteriores. 1
10
21
Como foi feita a avaliação
De 21 de julho a 11 de agosto de 2026, um pesquisador de cada organização trabalhou nas instalações da OpenAI para testar os limites do sistema interno de monitoramento. A equipe teve acesso a código-fonte, documentação, parte da infraestrutura interna e profissionais técnicos da empresa. Os pesquisadores usaram dispositivos fornecidos pela OpenAI, que permaneceram nas instalações, e funcionários da empresa acompanharam o trabalho presencial. 2
5
7
O objetivo era avaliar tanto o alcance do monitoramento quanto a possibilidade de agentes desativarem ou contornarem o sistema. A METR informou que o trabalho resultou em um relatório interno de 61 páginas, compartilhado com pesquisadores e profissionais de segurança da OpenAI. O material divulgado ao público foi um resumo mais amplo, não o relatório completo. 7
17
O que os pesquisadores encontraram
Nem toda atividade relevante estava coberta
Segundo a estimativa divulgada pela METR, entre 75% e 94% do tráfego interno de agentes pela Responses API — gerado por modelos pelo menos tão capazes quanto o GPT-5.5 — era elegível para monitoramento. Esse intervalo estima a parcela que poderia ser monitorada; não demonstra que todas as atividades elegíveis foram efetivamente acompanhadas nem que qualquer problema seria detectado. 1
6
18
A avaliação também constatou que, no início do exercício, as execuções de treinamento por aprendizado por reforço não eram monitoradas para identificar desalinhamento. 22
Havia possíveis caminhos para escapar da supervisão
Os resumos públicos mencionam diferentes tipos de vulnerabilidade: uma possível forma de contornar o isolamento de segurança do Codex, cabeçalhos controláveis pelo cliente que poderiam desativar o monitoramento de novas instâncias de agentes e uma exploração capaz de esconder centenas de ações recentes do monitor. As informações divulgadas não trazem detalhes técnicos suficientes para representar uma descrição completa dos achados. 1
3
Eventos de compactação deixaram uma lacuna
A METR estimou que eventos de compactação não monitorados provavelmente fizeram com que cerca de 10% do tráfego interno elegível do Codex ficasse sem monitoramento entre maio e julho de 2026. A organização ressalvou que há incerteza considerável sobre a proporção exata. Relatos sobre os achados dizem que funcionários da OpenAI já haviam identificado a lacuna antes do piloto e que ela foi corrigida durante a avaliação. 10
O que a avaliação não comprova
O teste se concentrou no sistema de monitoramento como existia no início do piloto. A METR afirmou que não avaliou as mudanças posteriores; por isso, o trabalho não confirma de forma independente a cobertura atual do sistema nem verifica cada correção. 7
21
22
A afirmação da OpenAI de que corrigiu as vulnerabilidades com impacto em suas proteções de produção é relevante, mas continua sendo o relato da própria empresa sobre as medidas tomadas — não uma confirmação independente de que todos os problemas foram resolvidos. 21
Por que o piloto importa
O exercício mostrou como pode funcionar uma avaliação externa com acesso aprofundado às operações de uma empresa. Em setembro, a OpenAI se comprometeu a oferecer a avaliadores independentes acesso “semelhante ao de funcionários”. O piloto dá um exemplo do tipo de acesso que esse trabalho pode envolver, mas não deve ser confundido com uma auditoria pública completa. 8
28
A conclusão mais sólida é específica: pesquisadores trabalhando dentro da empresa identificaram lacunas de monitoramento e possíveis formas de contorná-lo; a OpenAI, por sua vez, informou ter corrigido os problemas que afetavam proteções em produção. As informações públicas não esclarecem até que ponto a cobertura foi ampliada depois nem quem verifica, de forma independente, se as correções funcionam. 7
21
Studio Global AI
Continue sua pesquisa
Esta página inclui uma resposta baseada na fonte que você pode continuar em Studio Global.
As pessoas também perguntam
Qual é a resposta curta para "Teste independente encontrou brechas no monitoramento de agentes de IA da OpenAI"?
Em um teste realizado de 21 de julho a 11 de agosto de 2026, pesquisadores identificaram falhas no monitoramento da OpenAI, incluindo uma forma de ocultar centenas de ações de agentes.
Quais são os pontos-chave para validar primeiro?
Em um teste realizado de 21 de julho a 11 de agosto de 2026, pesquisadores identificaram falhas no monitoramento da OpenAI, incluindo uma forma de ocultar centenas de ações de agentes. A estimativa de 75% a 94% se refere à parcela do tráfego considerada elegível para monitoramento — não comprova que todas essas atividades foram observadas ou que todos os problemas seriam detectados.
O que devo fazer a seguir na prática?
O relatório completo, de 61 páginas, foi compartilhado com a OpenAI. A avaliação examinou o sistema no início do piloto e não verificou de forma independente as mudanças feitas depois.