Da assistência à automação: como a IA está mudando os ataques cibernéticos

A conclusão comum dos relatórios não é que a IA tenha criado formas completamente novas de invasão. O ponto central é que ela está convertendo técnicas já conhecidas em fluxos de trabalho repetíveis e de várias etapas: os modelos podem ajudar a planejar, gerar, testar, adaptar e ampliar ataques com menos trabalho especializado e menos tempo de operação manual. As evidências são mais fortes para a IA acelerando e coordenando operações tradicionais do que para sistemas inteiramente independentes, sem direção humana relevante. 107

De assistente a parte da operação

O rastreador da Google descreveu uma passagem de prompts pontuais para fluxos agentivos integrados, com tarefas como varredura automatizada, coleta de credenciais, solução de problemas e rotação de infraestrutura. Na prática, isso pode condensar uma operação que antes exigia várias ferramentas e operadores em uma sequência que itera rapidamente. 11

Ainda assim, há um limite importante: os achados não demonstram que invasores já estejam empregando, de forma dominante, cadeias de ataque completas e autônomas contra alvos reais. O avanço observado está na automação de partes conectadas do processo.

Para que os criminosos usam IA

Segundo Microsoft, a maior parte do uso malicioso de IA continua concentrada na produção de texto, código e mídia. Entre os usos observados ou alegados nos relatórios estão:

• pesquisa e perfilamento de alvos;
• conteúdo de spear phishing — phishing altamente personalizado — em vários idiomas;
• criação, correção e depuração de malware e scripts;
• preparação de scripts e infraestrutura;
• resumo de dados roubados;
• materiais para engenharia social. 10

Esse quadro importa porque golpes de e-mail, falsos avisos de suporte e roubo de contas não precisam ser reinventados para causar mais dano. Com IA, podem ser personalizados, traduzidos e renovados em volume maior, dificultando defesas que dependem de modelos de mensagem conhecidos ou de erros gramaticais óbvios. A Microsoft citou especificamente o uso de IA para gerar iscas de phishing e traduzir conteúdo. 10

Casos ligados a Estados e grupos criminosos

A Anthropic afirmou ter interrompido atividades envolvendo agentes ligados à Rússia, China e Irã, além de grupos com motivação financeira. Os casos abrangeram operações cibernéticas, influência, vigilância, fraudes, uso indevido relacionado à biologia, trabalho sobre armas convencionais e destilação de modelos. 72

A Reuters noticiou, com base no relatório da empresa, um caso de operação ligada à Rússia que teria visado autoridades ucranianas e alegações de uso indevido do Claude por empresas chinesas de IA. Essas atribuições são estudos de caso e alegações das empresas, não uma medição de toda a atividade de ameaças no mundo. 724

Um exemplo de crime cibernético citado pela Microsoft envolve campanhas de engenharia social com temas de passkeys e SSO, sigla para single sign-on, ou login único. A empresa associou as ações contra contas corporativas do Microsoft 365 a atores ligados a ShinyHunters, Helix e outros grupos de extorsão. O padrão reportado foi reconhecimento prévio, seguido de falsificação de suporte de TI para obter acesso e roubar dados na nuvem. É um caso de roubo de credenciais tradicional reforçado por melhor segmentação e iscas escaláveis — não uma prova de que a IA executou a invasão inteira sozinha. 3

O ciclo rápido: gerar, testar, ajustar e implantar

Os casos relatados pela Anthropic ajudam a explicar por que o uso agentivo altera a operação. Um atacante pode pedir a um modelo que modifique ou reconstrua código depois que um produto de segurança o detecta, usar credenciais ou chaves de API comprometidas como capacidade computacional de baixo custo e repetir esse processo em alta velocidade. O risco está no ciclo de realimentação — gerar, testar, revisar e implantar —, não em um único prompt malicioso. 87

A mesma lógica vale para a falsificação de marcas e serviços de IA. Páginas de suporte aparentemente legítimas, mensagens de phishing, interações de chat, vozes ou imagens clonadas e versões em diferentes idiomas podem ser produzidas e atualizadas a baixo custo. Para as equipes de defesa, isso significa mais volume, mais personalização e mais variação.

Destilação: quando o próprio modelo vira alvo

A Google classificou consultas sistemáticas ao Gemini para extrair capacidades proprietárias como ataques de “destilação” ou extração de modelo. Trata-se de um problema de propriedade intelectual e de segurança de capacidades, não apenas de cibercrime convencional. 11

Em termos simples, um agente com acesso legítimo a uma API pode fazer um número muito alto de perguntas cuidadosamente estruturadas, coletar as respostas e tentar reproduzir comportamentos úteis de um modelo avançado em outro sistema. Reportagens públicas mencionaram campanhas com volumes muito grandes de prompts; a interpretação mais cautelosa é que atacantes podem tentar copiar capacidades por meio dessa sondagem, enquanto os provedores buscam identificar consultas abusivas e proteger seus modelos, mecanismos de raciocínio e salvaguardas. 118

A inversão do custo para quem defende

A IA reduz o custo marginal de redigir mensagens, localizar conteúdo para outros idiomas, pesquisar alvos, obter assistência com código e aperfeiçoar tentativas de engano. Isso dá a criminosos com poucos recursos e a hacktivistas parte da capacidade antes associada a equipes maiores.

O efeito não é que todo ataque habilitado por IA terá êxito. A assimetria está na velocidade e na escala: defensores precisam separar comunicações legítimas de conteúdos maliciosos mais personalizados e frequentemente alterados. 610

O debate vai além do phishing

As questões de acesso, capacidade e monitoramento também ultrapassam o crime cibernético. O relatório da Anthropic tratou explicitamente de tentativas de uso indevido em pesquisas biológicas e no desenvolvimento de armas convencionais, além de operações digitais. Por isso, a discussão sobre IA responsável inclui monitoramento de abuso, controles de conta e API, limites de requisições, detecção de extração de modelos, compartilhamento de incidentes e salvaguardas para áreas de alto impacto — e não apenas filtros contra phishing. 162

A ressalva final é decisiva: esses documentos registram casos detectados e interrompidos. Eles mostram capacidades e padrões operacionais emergentes, mas não estabelecem, por si só, que ataques autônomos sejam hoje a modalidade predominante do crime cibernético. 7