Anthropic, OpenAI e Google DeepMind discutem padrões comuns de segurança em IA

Há sinais concretos de aproximação entre Anthropic, OpenAI e Google DeepMind em torno de uma ideia central: os modelos de IA mais capazes deveriam passar por escrutínio além das verificações internas de quem os desenvolve antes de chegar ao público. Mas isso não comprova que as empresas tenham criado um novo regulador conjunto, nem que já tenham acertado testes obrigatórios, regras de auditoria, limites de lançamento ou punições por descumprimento. 811

A diferença é decisiva: concordar que avaliações são necessárias não equivale a criar uma instituição capaz de impô-las.

O que está sendo proposto, em termos simples

Segundo reportagens, as três empresas realizam discussões em nível de grupos de trabalho desde julho de 2026 sobre um órgão de padrões liderado pela própria indústria para IA de fronteira — expressão usada para os modelos mais avançados. A meta aparente é estabelecer uma forma comum de avaliar capacidades perigosas antes da disponibilização pública, com atenção a riscos de operações cibernéticas, uso indevido em biologia, engano e outros cenários de alto impacto. 811

O desenho institucional mais explícito veio de Demis Hassabis, CEO do Google DeepMind. Ele propôs um Frontier AI Standards Body, liderado pelos Estados Unidos e inspirado na FINRA, a entidade de autorregulação do mercado financeiro norte-americano. A ideia é um órgão financiado pelo setor, sob supervisão federal, que testaria modelos de fronteira antes do lançamento. No início, a submissão seria voluntária; só depois de o processo demonstrar eficácia a avaliação poderia se tornar obrigatória. 9

Por enquanto, porém, não há registro público de acordo entre os laboratórios sobre os detalhes que transformariam isso em um sistema efetivo:

• quais modelos precisariam de revisão;
• quais avaliações técnicas seriam exigidas;
• qual acesso seria concedido a avaliadores externos;
• quais resultados poderiam bloquear, adiar ou condicionar um lançamento;
• quem financiaria e governaria o órgão;
• como preservar a independência de quem avalia as empresas; e
• que supervisão do governo e salvaguardas legais seriam aplicadas.

Até que essas perguntas tenham respostas, chamar a iniciativa de um regulador conjunto em operação vai além das evidências disponíveis.

Onde há convergência entre as empresas

O ponto de maior alinhamento é o teste independente antes do lançamento. A Axios informou em julho que Dario Amodei, Sam Altman e Demis Hassabis apoiavam, de forma geral, o escrutínio externo de modelos de fronteira antes de sua chegada ao público, em vez de depender principalmente da autoavaliação das próprias empresas. 8

A mudança é relevante porque a segurança desses modelos não depende apenas de os desenvolvedores realizarem testes, mas de terceiros poderem reproduzir, questionar ou contestar as conclusões. Um regime crível precisaria de testes claros, acesso confiável aos sistemas e consequências definidas quando um modelo ultrapassasse um limiar de risco.

As três empresas também apresentam o tema como internacional. Há uma tensão estratégica evidente: restrições impostas apenas nos Estados Unidos podem ser politicamente difíceis de sustentar se desenvolvedores rivais em outros países não enfrentarem limites comparáveis. A proposta de Hassabis é explicitamente liderada pelos EUA; Amodei argumenta que medidas nacionais, por si só, não dão conta de sistemas que podem ser implantados globalmente. 91

A principal divergência: quem manda e quem fiscaliza?

A linguagem comum sobre segurança encobre uma discordância de fundo: trata-se principalmente de um acordo voluntário entre empresas, de um sistema apoiado pelo governo ou de um regulador com autoridade real?

O modelo defendido pela DeepMind seria financiado pela indústria, mas supervisionado pelo governo federal dos EUA. Ele prevê uma fase voluntária inicial e admite que a revisão possa se tornar, mais adiante, uma condição para a implantação de um modelo. 9

A proposta de Amodei enfatiza avaliadores independentes inseridos nos laboratórios de IA de fronteira, com acesso semelhante ao de funcionários, e defende que empresas de países democráticos coordenem padrões com apoio governamental quando necessário. 12

Já a cobertura das discussões do grupo de trabalho descreve a OpenAI como receptiva a uma ação da indústria sem esperar que o governo conclua todo um arcabouço regulatório. 11 Sam Altman também apoiou publicamente a ideia de avaliadores independentes com acesso de nível funcional semelhante ao de empregados, após o ensaio de Amodei.

Essas diferenças não são apenas de forma. Um arranjo voluntário pode avançar mais rápido e criar práticas técnicas comuns. Mas, sem governança independente e autoridade pública, pode não conseguir exigir acesso, solucionar disputas, evitar conflitos de interesse ou impedir que uma empresa lance um modelo reprovado em uma análise de segurança.

O Frontier Model Forum não comprova a criação de um regulador

O Frontier Model Forum já existe como entidade do setor com participação de grandes empresas de IA. Seus objetivos declarados incluem avançar pesquisas de segurança, desenvolver avaliações e boas práticas e compartilhar informações com formuladores de políticas públicas e com a indústria.

Isso faz do fórum um possível espaço de coordenação. Não demonstra, por si só, que um novo órgão independente tenha sido lançado ou que exista um sistema obrigatório de auditorias entre empresas. A questão crucial é se elas criarão uma entidade que apenas produza recomendações — ou uma capaz de avaliar modelos de forma independente e impor condições relevantes para seu lançamento.

Por que o ensaio de Amodei elevou o debate

Em 12 de setembro, Dario Amodei, CEO da Anthropic, publicou o ensaio de cerca de 3.800 palavras We Must Pace the Frontier (“Precisamos cadenciar a fronteira”). Ele defendeu uma desaceleração dos ganhos de capacidade da IA para que as práticas de segurança tenham tempo de acompanhar o avanço tecnológico. 52

Amodei alertou que, em seis a doze meses, um enxame automatizado de agentes de IA mais capazes poderia potencialmente assumir o controle da internet. Trata-se de uma previsão e de um alerta de risco, não de um resultado técnico já comprovado. 513

O caminho proposto por ele tem três frentes:

1. Inserir avaliadores independentes dentro dos laboratórios de IA de fronteira, com acesso semelhante ao de funcionários para testar sistemas, identificar falhas de segurança e verificar conformidade. 12
2. Coordenar padrões e limites comuns entre empresas de IA em países democráticos, com apoio dos governos quando necessário. 216
3. Buscar coordenação internacional mais ampla, inclusive com governos autoritários, porque modelos avançados e seus riscos podem ser distribuídos globalmente. 115

A Anthropic afirmou que dará a avaliadores terceirizados acesso permanente, em nível comparável ao de empregados. É um compromisso mais forte do que um teste externo pontual, mas sua credibilidade prática dependerá de quem escolhe os avaliadores, do que eles podem inspecionar, de sua liberdade para publicar conclusões e do que ocorre quando identificam um risco inaceitável. 122

O teste real é a responsabilização

A crítica central é direta: as empresas que disputam a liderança na criação dos sistemas mais capazes podem também ajudar a escrever, administrar e interpretar as regras desses mesmos sistemas.

Um órgão de segurança seria mais crível se tivesse liderança técnica independente, métodos de avaliação transparentes, proteção contra influência empresarial, supervisão governamental efetiva e poderes claros para agir diante de uma reprovação. Sem isso, padrões compartilhados podem melhorar práticas, mas ainda ficar aquém de uma fiscalização independente.

O AI Safety Index do Future of Life Institute, na edição de 2026, ajuda a explicar a persistência desse ceticismo: Anthropic recebeu C+, OpenAI recebeu C e Google DeepMind também recebeu C. Nenhum dos laboratórios avaliados obteve nota acima de C+. 17

O senador americano Bernie Sanders argumentou que apenas desacelerar seria insuficiente e pediu uma pausa no desenvolvimento de IA avançada e a proibição da superinteligência artificial. É uma posição muito mais restritiva do que as propostas das empresas, mas ela evidencia a distância entre uma desaceleração voluntária e limites realmente obrigatórios.

O que observar daqui para frente

O próximo sinal relevante não será mais uma declaração de princípios. Será a adoção de compromissos institucionais concretos, como:

• uma carta de governança publicada;
• avaliadores independentes identificados;
• testes padronizados de capacidade e de potencial de uso indevido;
• regras de acesso para auditorias e de divulgação de resultados;
• limiares de lançamento e exigências de correção; e
• uma resposta clara sobre se uma conclusão de segurança pode adiar ou impedir a disponibilização de um modelo.

Por ora, a conclusão sustentada pelas evidências é mais restrita: grandes laboratórios de IA de fronteira discutem infraestrutura comum de segurança e demonstram apoio crescente a testes externos. Ainda não está resolvido se esse movimento resultará em um órgão independente e aplicável — ou em um fórum voluntário da própria indústria. 8911