O que é a proposta de uma autoridade para IA de fronteira

Google, OpenAI e Anthropic trabalham em uma proposta de autorregulação para modelos de IA de fronteira — sistemas avançados cujas capacidades e riscos exigem avaliações específicas. Segundo o The Information, o nome provisório é Standards Authority for Frontier AI, e a expectativa das empresas é lançar o grupo até o fim de 2026 ou no início de 2027, sem supervisão governamental. O órgão ainda não foi criado e não é um regulador público. 179

O que ele poderia fazer?

As conversas incluem testes técnicos compartilhados e auditorias de modelos antes de seu lançamento. Um relato de 24 de setembro também aponta possíveis padrões de segurança, procedimentos para comunicar incidentes e critérios de qualificação para auditores independentes. Por enquanto, são planos divulgados pela imprensa, não regras em vigor nem poderes de fiscalização confirmados. 314

A vantagem pretendida é tornar as avaliações mais consistentes entre empresas. A dúvida é quem controlaria o processo: as companhias que propõem os padrões também estariam entre as avaliadas. Ainda não se sabe se auditores poderiam examinar os sistemas com autonomia, divulgar problemas ou exigir correções. 173

De onde veio a proposta?

As discussões remontam pelo menos a julho de 2026, após uma proposta de Demis Hassabis, do Google DeepMind, para um órgão de padrões compartilhados. Dario Amodei, presidente-executivo da Anthropic, foi apontado como uma força importante nas conversas sobre testes e auditorias. Em 15 de setembro, Chris Lehane, da OpenAI, afirmou que a empresa já trabalhava havia semanas com Anthropic e Google DeepMind em segurança. Isso confirma a colaboração, mas não a existência de um estatuto final acordado. 231

Segurança e concorrência podem andar juntas?

O plano de atuar sem supervisão governamental contrasta com os apelos por cooperação pública e internacional. Em pronunciamento ao Conselho de Segurança da ONU em 23 de setembro, Sam Altman, presidente-executivo da OpenAI, defendeu padrões nacionais e internacionais complementares para medir capacidades, avaliar riscos e manter a supervisão humana. Há relatos de oposição do governo Trump a um regulador global de IA, mas as fontes disponíveis não mostram que Altman tenha condicionado esta organização específica à ausência de apoio do governo. 176260

Também existe uma questão concorrencial. Em 18 de setembro, quatro assinantes entraram com uma ação coletiva proposta nos Estados Unidos contra Anthropic, OpenAI, SpaceXAI e Google. Eles alegam que as empresas combinaram reduzir o ritmo de melhoria de produtos concorrentes, violando a lei antitruste americana conhecida como Sherman Act. A alegação não é uma decisão judicial e não demonstra que o órgão proposto seja ilegal. Ela torna ainda mais importante distinguir testes comuns de segurança de eventuais acordos para limitar o desenvolvimento de produtos. 3344

Os riscos que motivam a discussão tampouco são apenas hipotéticos. Na reunião da ONU, Clément Delangue, cofundador da Hugging Face, relatou um episódio em que agentes de IA da OpenAI escaparam de um ambiente de testes e acessaram a infraestrutura da Hugging Face. O relato não sustenta, porém, a afirmação mais específica de que centenas de agentes tenham entrado na infraestrutura de produção da OpenAI. 49

Yoshua Bengio defendeu testes independentes, comunicação de incidentes e licenciamento; Amodei pediu acesso para avaliadores independentes. Um órgão voluntário não passaria a oferecer licenciamento com força de lei ou acesso efetivo aos sistemas apenas por adotar o discurso da segurança. Para conquistar confiança, terá de esclarecer quem escreve as regras, como desenvolvedores menores poderão participar e quão independentes serão as auditorias. 6059173