Ex-pesquisador da Anthropic diz que competição por IA avançada está “apostando com nossas vidas”

Jacob Coxon afirmou que deixou a Anthropic porque passou a ver o problema como algo maior do que falhas técnicas isoladas. Na avaliação dele, os incentivos competitivos dos principais laboratórios de inteligência artificial estão empurrando o setor para sistemas cada vez mais autônomos e capazes de se aprimorar, antes que exista um método comprovado para mantê-los sob controle. A decisão de sair pouco antes da aquisição integral de sua participação acionária, segundo essa lógica, buscava mostrar que ele considerava o risco mais importante que a perda financeira. 25

O que Coxon denunciou

Em uma sequência de posts no X, Coxon disse que nem a Anthropic nem a OpenAI agiam de maneira responsável e acusou as empresas de estarem “correndo direto para uma superinteligência autoaperfeiçoável e apostando com nossas vidas”. O ponto central não era que os chatbots atuais estejam prestes a causar uma extinção de forma autônoma. Sua preocupação era que pessoas que desenvolvem modelos de fronteira — os sistemas mais avançados — acreditam que eles possam se tornar sobre-humanos em tarefas como invasão cibernética, criando caminhos para uma perda catastrófica de controle. 38

À BBC, ele disse que trabalhadores da área de IA estão “genuinamente assustados” com a velocidade do avanço. Coxon argumentou que, se o ritmo não diminuir, há “uma forte chance de que todos nós possamos morrer em um futuro imediato”. Para ele, uma desaceleração efetiva precisaria de coordenação internacional, incluindo a China, e não poderia significar que apenas um país abrisse mão unilateralmente da corrida tecnológica. 1

Há consenso de que isso vai acontecer?

Não. Evan Hubinger, pesquisador de alinhamento da Anthropic — área dedicada a fazer sistemas de IA seguirem objetivos e valores humanos — apoiou a preocupação geral. Ele disse que o risco dos modelos atuais é baixo, mas estimou em mais de 10% a chance de a IA matar todos os seres humanos na próxima década. 13

Geoffrey Hinton também já sustentou que uma tomada de controle por IA ou um cenário de extinção é um risco relevante, e não desprezível. Ainda assim, essas projeções são julgamentos subjetivos de especialistas, não previsões mensuráveis. As reportagens disponíveis não mostram um consenso entre pesquisadores sobre uma probabilidade específica. 813

Quais riscos concretos estão no centro do debate?

As evidências imediatas citadas na discussão dizem respeito sobretudo ao mau uso cibernético e à escalada de capacidades, não a um suposto ataque autônomo de IA contra a humanidade. Houve relatos de uso ou testes de modelos avançados em operações cibernéticas, inclusive tentativas de criar armas biológicas, espionagem relacionada à Ucrânia e um episódio descrito como agentes da OpenAI invadindo a plataforma Hugging Face. A caracterização desse último caso exige cautela: os resultados de busca disponíveis não trazem detalhes primários suficientes para verificar de forma independente os fatos, as autorizações envolvidas ou o que foi divulgado. 263

A resposta proposta pela Anthropic

Poucos dias após a saída de Coxon, o CEO da Anthropic, Dario Amodei, publicou o texto We Must Pace the Frontier (“Precisamos controlar o ritmo da fronteira”). A proposta não pede uma paralisação total da IA. Ela defende desacelerar a melhora dos modelos mais avançados, submetê-los a monitoramento e avaliações externas independentes, criar padrões de segurança compartilhados entre países democráticos e, no futuro, buscar acordos internacionais que incluam a China. 12

Sam Altman, da OpenAI, e Elon Musk, da xAI, apoiaram publicamente a direção geral da proposta. Musk escreveu que “Dario está certo”. 113

A reação crítica foi imediata. Entre os argumentos levantados por críticos como Clément Delangue, da Hugging Face, e Jensen Huang, da Nvidia, está o de que regras duras para modelos de fronteira poderiam proteger as empresas com mais recursos e transformar Anthropic e OpenAI em um duopólio regulado. Essa crítica trata de incentivos e de concentração de mercado; ela não prova que os temores declarados por Coxon sejam insinceros. 3

O momento do alerta também ampliou o ceticismo, pois a Anthropic estaria se preparando para uma oferta pública inicial de ações que poderia igualar ou superar o recorde da SpaceX. 4 A posição da Anthropic é que já adota salvaguardas fortes e que fiscalização independente e padrões comuns devem valer para todo o setor, e não criar uma vantagem exclusiva para a empresa. 2

A distinção principal é esta: Coxon, Hubinger, Amodei, Altman e Musk concordam que sistemas de IA cada vez mais capazes exigem mais coordenação e proteções. Eles não apresentam, porém, prova empírica de que uma extinção humana seja iminente. A gravidade do risco, o prazo e a melhor resposta regulatória continuam profundamente disputados.