Estresse, medo e pressão: por que especialistas em IA estão pedindo licença ou saindo de laboratórios

O motivo imediato é a combinação entre pressão institucional e sofrimento moral. Quem trabalha testando modelos de IA de fronteira — os sistemas mais avançados em desenvolvimento — teme que a velocidade de lançamento supere a capacidade de avaliar riscos, criar salvaguardas e estabelecer fiscalização externa.

Segundo relatos, alguns funcionários do Instituto de Segurança de IA do Reino Unido (AISI, na sigla em inglês), órgão que avalia independentemente modelos de fronteira, tiraram licença médica ou buscaram aconselhamento psicológico. As fontes apontam cronogramas apertados de testes, baixa moral e esgotamento. Há relatos de ansiedade semelhante entre profissionais de grandes empresas de IA, mas as evidências públicas disponíveis não permitem medir o quão disseminado isso é em cada organização. 15

Quais riscos preocupam esses profissionais

Os receios incluem danos mais imediatos — como facilitar ataques cibernéticos ou o uso indevido de conhecimentos biológicos — e hipóteses mais extremas, nas quais sistemas cada vez mais autônomos deixariam de estar sob controle humano significativo. Jacob Coxon citou ameaças biológicas habilitadas por IA e ciberarmas como possíveis caminhos para uma catástrofe. 15

Para equipes de segurança, a questão pode ser especialmente difícil porque elas não observam o problema de longe. Elas ajudam a testar, treinar ou preparar para lançamento os próprios sistemas que consideram potencialmente perigosos. Quando detectam uma falha, mas não têm poder para interromper uma liberação em um mercado competitivo, isso pode alimentar sensação de impotência, exaustão e conflito ético.

A demissão de Jacob Coxon deu visibilidade ao temor interno

Coxon trabalhou em pesquisa de pré-treinamento na OpenAI e na Anthropic antes de pedir demissão da Anthropic. Ele afirmou que as empresas corriam em direção a uma superinteligência capaz de se aprimorar sem agir com a responsabilidade necessária. 14

Em entrevista à BBC, Coxon disse que pessoas nos principais laboratórios estavam “genuinamente assustadas” com o ritmo do avanço tecnológico e suas possíveis consequências para a humanidade. 9 Sua saída ajudou a transformar uma preocupação antes mais restrita aos bastidores em um debate público — e aumenta a pressão sobre outros funcionários que ponderam se devem permanecer, discordar internamente ou sair.

Por que o problema não se resolve dentro de uma única empresa

A discussão passou a ser também uma questão de governança e de coordenação. Um laboratório isolado, ou um empregado isolado, dificilmente consegue desacelerar uma corrida tecnológica se concorrentes continuarem avançando. Especialistas ligados a Stanford destacaram que uma desaceleração ampla das capacidades de IA seria difícil de executar, mas defenderam avaliações independentes conduzidas por governos ou por terceiros qualificados. 3

Rob Reich, filósofo político de Stanford, participa desse debate sobre como sociedades devem governar ciência de fronteira e por que decisões críticas não deveriam ficar apenas nas mãos de pesquisadores e empresas. 1 No entanto, as fontes disponíveis não sustentam atribuir a ele uma proposta específica e detalhada de ação coordenada de trabalhadores além desse enquadramento mais amplo.

A promessa de “desacelerar” não eliminou a desconfiança

Dario Amodei, da Anthropic, Sam Altman, da OpenAI, Demis Hassabis, do Google DeepMind, e outros executivos manifestaram, com diferentes níveis de compromisso, apoio a desacelerar o desenvolvimento da IA de fronteira. 2

Mas a proposta desperta ceticismo. Críticos alertam que uma “pausa na IA” desenhada ou fiscalizada pelas empresas líderes poderia consolidar o poder dessas mesmas companhias e dificultar a concorrência de empresas menores. 11 Por isso, o teste de credibilidade não está apenas nos discursos: envolve adiar lançamentos quando necessário, aceitar auditorias independentes, cumprir limites verificáveis de risco, proteger denunciantes e submeter-se a regras externas.

Automação da pesquisa faz o futuro parecer menos controlável

A preocupação não é que a IA já tenha alcançado aprimoramento recursivo completo — isto é, a capacidade de melhorar a si própria repetidamente sem intervenção humana relevante. Isso ainda não ocorreu. 6

O temor é mais gradual: sistemas de IA já podem automatizar partes da pesquisa e da engenharia. Isso pode encurtar ciclos de desenvolvimento e fazer as capacidades avançarem mais rápido do que avaliadores humanos conseguem entender, testar e regular. Um estudo do CSET, da Universidade Georgetown, aponta que a automação da pesquisa e desenvolvimento em IA pode acelerar o progresso e reduzir a capacidade humana de compreensão e controle. 4 Outro trabalho concluiu que agentes atuais conseguiram executar boa parte da engenharia de projetos de pesquisa, mas ainda não produziram progresso científico aberto substancial. 5

Em resumo, os relatos não provam que uma extinção humana seja iminente. Eles mostram, porém, que algumas pessoas mais próximas do desenvolvimento de IA de ponta consideram psicologicamente e eticamente insustentável a combinação de capacidades em rápida evolução, riscos de uso duplo, competição comercial e controle externo insuficiente.