OpenAI, Anthropic e Google DeepMind discutem colaboração em segurança de IA, diz reportagem

OpenAI, Anthropic e Google DeepMind, da Alphabet, estariam discutindo uma colaboração para priorizar a segurança em inteligência artificial. A informação foi publicada pela Bloomberg News e repercutida pela Reuters, que ressaltou não ter conseguido verificá-la de modo independente. OpenAI, Alphabet e Anthropic não responderam imediatamente aos pedidos de comentário da agência. 4

O ponto central é delicado: empresas que disputam a liderança na criação de modelos avançados podem colaborar para reduzir riscos sem que essa cooperação passe a afetar a concorrência?

O que estaria em discussão

Segundo a reportagem, as três companhias exploravam formas de trabalhar juntas em segurança de IA. Chris Lehane, chefe global de políticas da OpenAI, afirmou que as conversas com Anthropic e Google já duravam algumas semanas e defendeu que as empresas tentem atuar em conjunto para dar prioridade à segurança. 4

Até aqui, porém, não há confirmação pública de um acordo final, de um padrão técnico comum ou de um programa obrigatório entre as companhias. A leitura mais precisa é que se trata de conversas relatadas pela imprensa, e não da adoção comprovada de uma estrutura formal de colaboração. 4

Por que os riscos catastróficos ganharam força no debate

As discussões surgem após líderes dos principais laboratórios de IA dos Estados Unidos se unirem publicamente para pedir uma pausa no desenvolvimento da tecnologia, elevando a preocupação com riscos existenciais associados a sistemas cada vez mais capazes. 4

O tema também avançou na política americana. A Reuters informou que mais parlamentares passaram a defender regras para IA depois de alertas de pesquisadores da Anthropic de que o progresso acelerado da tecnologia poderia representar um risco de extinção humana. 3

Separadamente, a Anthropic pediu que grandes laboratórios considerem uma pausa coordenada e verificável no desenvolvimento caso os riscos aumentem. A empresa argumentou que sistemas de IA poderiam, no futuro, aprimorar a si próprios mais rapidamente do que a sociedade conseguiria administrar as consequências. 15

Essas são avaliações sobre capacidades e riscos futuros, não uma conclusão consensual de que tais cenários sejam inevitáveis. Ainda assim, ajudam a explicar por que salvaguardas voluntárias, padrões comuns e fiscalização com força legal estão sendo debatidos ao mesmo tempo.

A barreira antitruste

A cooperação entre rivais pode chamar a atenção das autoridades de defesa da concorrência, sobretudo quando as empresas competem diretamente no desenvolvimento e na oferta de modelos avançados.

Lehane afirmou não acreditar que OpenAI, Anthropic e Google DeepMind precisem de uma isenção antitruste para coordenar medidas de segurança. 4 A posição é contestada no debate mais amplo: Andrew Ferguson, presidente da Comissão Federal de Comércio dos EUA (FTC, na sigla em inglês), disse que as pessoas deveriam ser “profundamente céticas” diante de empresas de IA que buscam exceções às regras antitruste. Especialistas ouvidos pela Reuters, contudo, afirmaram que a legislação existente pode já permitir coordenação voltada a evitar riscos catastróficos. 2

A diferença é relevante. Testes de segurança compartilhados ou práticas comuns de gestão de risco podem ser apresentados como mecanismos de prevenção de danos. Já um acordo para desacelerar o desenvolvimento de forma a restringir a competição levantaria questões legais e políticas mais complexas.

A frente legislativa nos Estados Unidos

Lehane também disse que a OpenAI apoiaria uma legislação bipartidária nos EUA voltada a reduzir riscos catastróficos ligados à IA. 4

No Senado americano, negociadores discutem uma possível “obrigação de cuidado” para desenvolvedores de IA. A proposta exigiria que as empresas demonstrassem precauções razoáveis contra danos; o Departamento de Comércio poderia pedir provas dessas medidas e enviar auditores para testar produtos. 8

A OpenAI também havia defendido exigências nacionais obrigatórias de segurança em IA e argumentado que os padrões deveriam se estender além dos Estados Unidos. 6

O que observar agora

A principal questão em aberto é se as conversas relatadas resultarão em um compromisso público e formal, com salvaguardas definidas, avaliações independentes e mecanismos de responsabilização.

Por enquanto, a evidência sustenta uma conclusão mais limitada: OpenAI, Anthropic e Google DeepMind estariam em conversas sobre segurança em meio à crescente preocupação com riscos de sistemas avançados de IA e à pressão por padrões compartilhados e regras federais. 4

Uma eventual colaboração será avaliada por dois critérios ao mesmo tempo: se cria proteções de segurança que realmente funcionam e se evita transformar o discurso de segurança em um meio de concorrentes limitarem a competição.