O que o relatório da Anthropic revela sobre tentativas de uso indevido do Claude

A Anthropic afirma ter identificado e interrompido, ao longo de oito meses, operações que tentaram usar o Claude para atividades maliciosas. O relatório, publicado em 10 de setembro de 2026, abrange o período de dezembro de 2025 a agosto de 2026 e cita os modelos Claude Haiku, Sonnet e Opus. As tentativas se distribuíram por operações cibernéticas, campanhas de influência, vigilância, golpes e fraudes, uso biológico indevido, desenvolvimento de armas convencionais e destilação de modelos. 16

Há uma distinção essencial: o documento registra tentativas de obter assistência da IA que a empresa diz ter detectado e bloqueado. Ele não comprova que os projetos de armas, vigilância ou biologia descritos tenham sido concluídos ou usados no mundo real. A própria Anthropic apresenta os episódios como estudos de caso relevantes, não como um retrato do uso típico do Claude. 16

Casos envolvendo armas e vigilância

Entre as alegações mais graves estão tentativas de usar o Claude em atividades relacionadas a armamentos convencionais e sistemas de vigilância. Reportagens sobre o relatório citaram trabalhos ligados a software para drones autônomos de ataque de mão única, sistemas de navegação de mísseis e aplicações militares associadas a atores vinculados à Rússia, ao Irã, à China e ao Iêmen. 1

O material também descreve supostas tentativas de identificar e visar uigures por meio do WhatsApp e do Telegram, além de um sistema de vigilância de telecomunicações em larga escala no Mali. Os exemplos mostram que o risco não se limita à geração de código: modelos podem ser explorados para pesquisa, classificação de informações, análise e elaboração de documentos operacionais. 116

Tentativas de uso biológico indevido

A Anthropic identificou cinco casos de uso biológico indevido. Um deles envolvia uma tentativa ligada ao aumento da transmissibilidade de um vírus transmitido por mosquitos, segundo a cobertura do relatório. 1

A empresa também informou que alguns usuários buscaram sistemas concorrentes de IA depois de receber recusas do Claude em pedidos sensíveis. Isso não demonstra que tenham obtido sucesso em outros serviços, mas evidencia uma limitação de controles adotados por uma única plataforma: bloquear um pedido pode interromper a ação naquele serviço sem impedir que o interessado procure outra ferramenta. 1

Campanhas de destilação de modelos

Outra parte do relatório aborda a destilação ilícita de modelos — o uso das respostas de um modelo mais capaz para ajudar a treinar outro sistema. A Anthropic atribuiu campanhas a sete laboratórios sediados na China, entre eles Alibaba, Moonshot e DeepSeek. Segundo a empresa, esses grupos teriam usado muitas contas e prompts retransmitidos para obter respostas ou raciocínios úteis ao treinamento de outros modelos. 1

Esse tipo de abuso é diferente de ameaças como vigilância ou armas, mas tem implicações estratégicas para desenvolvedores de IA. O acesso a um modelo avançado pode ser explorado para reproduzir parte de suas capacidades e reduzir o custo de desenvolvê-las de forma independente.

Quais modelos foram citados?

A Anthropic disse que os casos relatados envolveram Claude Haiku, Sonnet e Opus. De acordo com a empresa, os modelos mais novos das classes Fable e Mythos não apareceram nos casos divulgados, com uma exceção: um episódio de destilação ilícita. 1216

Essa ressalva importa porque corrige a afirmação ampla de que Fable e Mythos estariam totalmente ausentes do relatório. A evidência disponível sustenta uma conclusão mais precisa: eles não foram usados nos demais casos de abuso divulgados, exceto na ocorrência de destilação. 12

Resposta da Anthropic e limites da evidência

A Anthropic afirmou que interrompeu as operações, baniu as contas envolvidas, reforçou suas defesas e, quando apropriado, compartilhou informações com autoridades e parceiros do setor. 16

Ainda assim, trata-se de um relato produzido pela própria empresa sobre atividades observadas em sua plataforma. Ele é uma evidência importante do que a Anthropic detectou e combateu, mas não deve ser interpretado como confirmação independente de que todos os atores atribuídos concluíram seus objetivos. O relatório é apresentado como uma seleção de casos notáveis, não como uma pesquisa representativa de todo o uso indevido de IA. 16

Por que o relatório alimentou o debate sobre “ritmar a fronteira”

Dois dias depois da publicação, o CEO da Anthropic, Dario Amodei, divulgou o ensaio We Must Pace the Frontier (“Precisamos ritmar a fronteira”). Nele, defendeu que empresas de IA desacelerem deliberadamente a velocidade com que ampliam as capacidades de seus modelos de fronteira, dando tempo para que alinhamento, salvaguardas e verificação acompanhem o avanço técnico. 25

A proposta não pede o fim do treinamento nem do progresso tecnológico. O primeiro compromisso concreto anunciado por Amodei foi oferecer a avaliadores externos acesso permanente aos sistemas da Anthropic em nível equivalente ao de funcionários. A ideia é que esses avaliadores possam examinar práticas de segurança, reportar incidentes e avaliar o alinhamento dos modelos durante o treinamento. 1825

O plano mais amplo tem três etapas: supervisão no nível das empresas, coordenação entre companhias de países democráticos e, posteriormente, coordenação internacional mais ampla. 2325

O que está comprovado — e o que não está

O relatório sustenta que a Anthropic detectou e interrompeu tentativas de uso malicioso de modelos Claude durante o período informado, em sete categorias de dano. Ele também oferece uma justificativa concreta para a posição da companhia de que mecanismos de segurança precisam evoluir junto com as capacidades dos modelos. 16

Por outro lado, o material disponível não comprova que o relatório tenha causado ações específicas do Congresso dos Estados Unidos, encerrado um recesso da Câmara dos Representantes ou levado a uma proibição legislativa determinada sobre “superinteligência”. Há pressão política mais ampla por supervisão de segurança em IA, e Amodei defende que governos ajudem a manter capacidades e segurança em equilíbrio, mas essas relações causais específicas exigiriam evidências adicionais. 2527

A conclusão prática é menos espetacular, mas mais relevante: prevenir abusos de IA não depende apenas de um modelo recusar um prompt perigoso. Exige monitoramento de uso coordenado, resposta a evasões por contas e a tentativas de destilação, compartilhamento de inteligência sobre ameaças e avaliações de segurança confiáveis à medida que os modelos se tornam mais capazes. 1625