Como agentes de IA podem ampliar riscos biológicos, ataques digitais e conflitos

O risco dos modelos de IA mais avançados não depende de uma única máquina dominar, de repente, todos os caminhos para uma catástrofe. Ele também pode surgir de algo mais concreto: sistemas que tornam conhecimento perigoso mais acessível, executam etapas de uma operação e encurtam o tempo de reação de quem precisa impedi-la. Por isso, é essencial separar assistência fornecida pela IA, tentativa de uso indevido e dano comprovado.182258

Biologia: orientação não é uma arma pronta

Chatbots de uso geral podem ajudar a interpretar informações científicas. Ferramentas especializadas vão além: segundo a OpenAI, o GPT-Rosalind apoia raciocínio biológico e fluxos de trabalho experimentais. Uma reportagem da Nature descreve tanto os benefícios de ferramentas como o AlphaFold quanto a preocupação com seu possível uso para fins nocivos.1019

Há motivos concretos para atenção. O New York Times relatou conversas em que chatbots forneceram orientações sobre armas biológicas e discutiram formas de evitar a detecção.21 A Anthropic afirmou ter interrompido cinco casos potenciais em que o uso do Claude poderia apoiar o desenvolvimento dessas armas. Segundo a Axios, dois envolviam pedidos ligados a pesquisas perigosas de ganho de função — estudos que buscam conferir novas propriedades biológicas a organismos.25 Nenhum desses relatos comprova a produção de uma arma funcional.

Uma resposta de IA tampouco substitui toda a experiência, os materiais e o trabalho de laboratório necessários para produzir uma arma biológica. Essas barreiras práticas importam, embora ferramentas melhores possam reduzir algumas delas.1926 Ao avaliar o GPT-5, a OpenAI adotou uma classificação preventiva de alta capacidade para riscos biológicos, mas disse não ter evidência definitiva de que o modelo ajudaria significativamente uma pessoa sem experiência a causar danos biológicos graves.31 É uma decisão de precaução — não uma prova de segurança nem de catástrofe iminente.

Ataques digitais: mais velocidade não significa resultado garantido

Quando recebem acesso a ferramentas, agentes de IA podem auxiliar em diferentes etapas de uma invasão. Isso pode ampliar o alcance de um atacante e reduzir o tempo de resposta dos defensores. Relatos sobre casos identificados pela Anthropic descrevem assistência em operações cibernéticas e roubo de dados.5053

Um caso noticiado envolve um atacante que usou ferramentas de IA contra nove órgãos do governo mexicano.54 Fontes secundárias estimam em cerca de 400 milhões os registros expostos, mas o material disponível não permite verificar esse total de forma independente.5657 Alegações sobre enxames coordenados de agentes que teriam atacado aproximadamente 50 organizações também não têm sustentação suficiente aqui para serem apresentadas como um incidente estabelecido.

A mesma capacidade pode servir à defesa: descobrir uma falha permite tanto explorá-la quanto corrigi-la. Já a afirmação específica de que o GPT-5.6-Cyber encontrou vulnerabilidades posteriormente corrigidas no Chrome não está comprovada pelas fontes disponíveis e não deve ser tratada como exemplo verificado.

Desinformação e armas autônomas podem agravar crises

Os casos de uso indevido relatados pela Anthropic também incluem operações de influência.2250 Em uma crise, mensagens fabricadas ou a falsificação de identidades poderiam dificultar a compreensão do que acontece e a coordenação de uma resposta. Os casos citados, porém, não mostram uma campanha de desinformação causando um desfecho existencial.

Na área militar, a Anthropic afirmou que desenvolvedores baseados na Rússia usaram o Claude para trabalhar em software de enxames de drones de ataque, incluindo orientação, coordenação e seleção de alvos.5160 Desenvolver software não equivale a comprovar seu emprego em combate. E o uso de IA em um drone, por si só, não esclarece quanto controle humano existe sobre a decisão de usar força letal. O Comitê Internacional da Cruz Vermelha alerta para os riscos a civis e de escalada de conflitos quando seres humanos não conseguem compreender, prever ou controlar adequadamente o comportamento de armas autônomas.58

A prevenção precisa cobrir toda a operação

Fazer um chatbot recusar pedidos perigosos ajuda, mas não basta. Pesquisadores em biotecnologia discutem recusas e restrições a funções de alto risco; a RAND defende medidas combinadas porque nenhuma proteção isolada consegue deter um agente determinado.1729 A Anthropic afirma ter detectado e interrompido usos indevidos e reforçado salvaguardas para pesquisas biológicas sensíveis.2223

Na prática, isso significa avaliar o que os sistemas conseguem fazer ao longo de tarefas com várias etapas, restringir as ferramentas e permissões concedidas a agentes, monitorar sinais de abuso e manter meios de interromper uma operação. Em sistemas de armas, o controle humano precisa valer para as decisões sobre força letal — não apenas constar formalmente no processo. A Organização das Nações Unidas (ONU) e a Cruz Vermelha pedem regras internacionais mais fortes para armas autônomas letais; esse pedido não significa que já exista uma proibição universal.5558

As evidências justificam prevenção, não fatalismo. Há relatos de assistência perigosa e de tentativas de usar IA em atividades biológicas, cibernéticas e militares. Afirmar que isso levará a uma catástrofe ou à extinção humana é um passo adicional, que exige evidências de danos efetivos — não apenas de um modelo capaz ou de um plano alarmante.212246