Casa Branca e Anthropic criam sistema de notas para jailbreaks de IA: entenda o embate sobre controles de exportação e a busca por regras claras

A discordância sobre o que constitui um jailbreak perigoso

O gatilho imediato para os controles de exportação foi um suposto "jailbreak" — um método para burlar as salvaguardas de segurança dos modelos. Mas os dois lados discordaram fortemente sobre sua gravidade.

• Posição da Anthropic: O CEO Dario Amodei argumentou, durante ligações de emergência com funcionários do governo, que o jailbreak em questão era "estreito" e "não universal" — não uma falha sistêmica que pudesse ser amplamente explorada. A empresa declarou publicamente que o governo só havia fornecido "evidências verbais de um potencial jailbreak estreito e não universal" . "Discordamos que a descoberta de um jailbreak potencial estreito fosse motivo para recolher um modelo comercial", disse a Anthropic em uma postagem em seu blog .
• Posição do governo: A Casa Branca considerou que qualquer violação comprovada das salvaguardas de segurança em um modelo com capacidades avançadas de ciberataque — o Fable 5 foi projetado em parte para identificar vulnerabilidades de software — era um risco inaceitável à segurança nacional, particularmente se os modelos permanecessem acessíveis a adversários estrangeiros .

O desacordo escalou rapidamente. De acordo com vários relatos, Amodei reagiu com firmeza nas ligações com as autoridades, descrevendo as preocupações do governo como um mal-entendido, e em certo momento as negociações quase ruíram completamente .

A Casa Branca designou o Fable 5 como um caso-teste para as novas diretrizes de sua ordem executiva sobre IA, coordenando ações entre os Departamentos de Comércio, Tesouro e a própria Casa Branca . O governo temia que as capacidades dos modelos pudessem permitir que a China tivesse acesso a ferramentas ofensivas de cibersegurança e outras tecnologias perigosas de uso duplo .

Da confrontação à negociação: construindo uma estrutura de conformidade unificada

Dias após a crise dos controles de exportação, a Casa Branca e a Anthropic passaram da confrontação para uma negociação estruturada . Em 17 de abril de 2026, Amodei se reuniu com autoridades da Casa Branca em conversas descritas como tréguas produtivas — o primeiro contato de alto nível desde o atrito anterior entre a Anthropic e o Pentágono .

Figuras-chave nas discussões subsequentes de alto nível incluem o Secretário de Comércio dos EUA, Howard Lutnick, o Diretor Nacional de Cibersegurança, Sean Cairncross, e o cofundador da Anthropic, Tom Brown . A administração coordenou ações entre os Departamentos de Comércio, Tesouro e a Casa Branca para o caso-teste do Fable 5 .

O projeto central que emergiu dessas conversas é uma estrutura de conformidade unificada para avaliar a gravidade das vulnerabilidades de segurança — particularmente jailbreaks — em modelos de IA de ponta . A estrutura é projetada para criar referenciais comuns para avaliar se uma falha de segurança justifica a intervenção do governo .

O sistema de notas unificado: três critérios

Central ao esforço está um sistema de notas unificado para jailbreaks. Embora nenhum rótulo oficial (por exemplo, "Crítico", "Alto", "Médio", "Baixo") ou uma rubrica detalhada tenha sido divulgado publicamente, o sistema supostamente avalia vulnerabilidades ao longo de três critérios de avaliação de risco :

1. Proteções violadas — Quais salvaguardas de segurança (ex.: classificadores constitucionais, filtros em tempo real) foram derrotadas.
2. Capacidades expostas — Quais capacidades perigosas do modelo (ex.: ciberataque, orientação biológica, síntese química) se tornaram acessíveis.
3. Impacto no mundo real — Com que facilidade o jailbreak poderia ser explorado em escala e que dano poderia resultar.

O objetivo do governo é usar este sistema de notas para estabelecer limiares de risco claros e predefinidos que determinariam automaticamente se é necessário impor controles de exportação, exigir mitigações ou bloquear a implantação — em vez de agir de forma ad hoc após uma crise .

O objetivo estratégico do governo: migrar de reativo para baseado em regras

O objetivo geral do governo é migrar de uma intervenção reativa e orientada por crises para um sistema baseado em regras . Ao codesenvolver a estrutura de notas e os limiares de risco com a Anthropic, a Casa Branca pretende:

• Criar previsibilidade para os laboratórios de IA sobre o que desencadeia a ação governamental.
• Estabelecer terminologia compartilhada para descrever a gravidade das vulnerabilidades.
• Evitar cenários futuros em que um modelo é implantado publicamente e depois abruptamente desligado sob controles de exportação — como aconteceu com o Fable 5 e o Mythos 5.

Incerteza chave: Nenhum critério detalhado, escopo ou cronograma para a estrutura foi divulgado publicamente. Os três critérios de avaliação de risco (proteções violadas, capacidades expostas, impacto no mundo real) foram reportados por vários veículos, mas a metodologia de pontuação específica não foi .

O contexto mais amplo do G7

O desenvolvimento da estrutura EUA-Anthropic está ocorrendo no contexto das discussões do G7 sobre padrões de segurança de IA. O G7 vem trabalhando para estabelecer referenciais internacionais harmonizados para avaliar os riscos da IA de ponta . Espera-se que o sistema de notas unificado que a Casa Branca e a Anthropic estão construindo informe — e seja informado por — essas conversas multilaterais mais amplas, embora resultados específicos do G7 ainda estejam em negociação .

O que vem a seguir

O desenvolvimento da estrutura marca uma virada significativa na política de IA dos EUA. Apenas dias antes dos controles de exportação, Amodei havia publicado um ensaio político argumentando que os governos deveriam ter autoridade legal obrigatória para bloquear ou reverter a implantação de modelos de IA de ponta que falhassem em testes de segurança independentes . A crise de 12 de junho colocou esse princípio a um teste confrontacional inesperado.

A questão-chave que permanece em aberto: como definir a linha entre uma vulnerabilidade estreita e gerenciável e um risco sistêmico que justifique a intervenção do governo. A resposta moldará não apenas os futuros lançamentos da Anthropic, mas também o panorama regulatório mais amplo para o desenvolvimento de IA de ponta.