O ataque com drone em Zaporizhzhia e a nova fronteira das armas autônomas

Um ataque de drone russo em Zaporizhzhia parece ter ultrapassado uma fronteira tecnológica importante. O equipamento não estaria usando inteligência artificial apenas para estabilizar o voo, seguir uma rota ou perseguir um alvo previamente escolhido por uma pessoa. Segundo autoridades ucranianas, peritos forenses e uma investigação do The New York Times, o sistema instalado a bordo identificou e selecionou sozinho aquilo que deveria atacar. O ataque, em 6 de julho, matou três civis depois que o drone bateu em um muro próximo a um posto de combustíveis. 13

A conclusão precisa ser tratada com cautela: o episódio é apontado como o primeiro uso letal documentado de um sistema de seleção de alvos por IA totalmente autônomo na guerra entre Rússia e Ucrânia — não necessariamente como o primeiro uso de uma arma autônoma em qualquer conflito. 13

O que aconteceu em Zaporizhzhia

O pequeno drone, parecido com um aeromodelo, teria sido enviado em direção a um posto de combustíveis. Ao se aproximar do local, seu sistema de IA aparentemente procurou e selecionou um alvo — provavelmente tanques de propano — em vez de receber de um operador humano a ordem final para atacar. O drone então atingiu um muro e explodiu, matando Tetiana Bubynets, de 19 anos, e outros dois civis. 146

A falha relatada é essencial para entender o caso. Ela mostra que autonomia não significa inteligência confiável ou semelhante à humana. Um sistema pode reconhecer o objeto errado, calcular mal sua posição ou continuar uma ação mesmo depois que a situação no solo mudou. Em uma área urbana, erros desse tipo podem transformar uma decisão militar em dano contra civis sem que uma pessoa revise a cena final ou consiga intervir a tempo. 16

A tecnologia: IA funcionando dentro do drone

Investigadores ucranianos teriam recuperado dos destroços um módulo Nvidia Jetson Orin. A Nvidia descreve a linha Jetson como uma plataforma de computação voltada a aplicações como robótica e visão computacional. Os peritos também relataram que o drone não tinha uma antena externa de comunicação. A análise forense indicou ainda a presença de câmeras, imagens do terreno armazenadas no equipamento e software treinado para reconhecer categorias de alvos, como tanques de propano. 281011

Esse é um exemplo de computação de borda (edge computing): os dados são processados localmente, no próprio dispositivo, em vez de serem enviados a um operador remoto ou a um serviço de nuvem. Em um drone, isso permite que a aeronave use sua câmera e seu computador embarcado para interpretar a cena, navegar e tomar uma decisão de direcionamento no momento crítico.

A diferença é importante em um ambiente de guerra eletrônica. Um drone controlado remotamente depende de um enlace de comunicação e pode perder eficiência quando seu sinal ou transmissão de vídeo é bloqueado. Um equipamento autônomo ou semiautônomo pode continuar partes da missão mesmo depois da interrupção das comunicações. Relatos sobre a guerra indicam que Rússia e Ucrânia vêm incorporando IA à navegação, ao reconhecimento de objetos, à orientação e ao rastreamento de alvos, embora ainda seja difícil verificar de forma independente a escala do uso de sistemas totalmente autônomos.

Como isso difere dos primeiros ataques com drones assistidos por IA

Nem todo drone equipado com IA é uma arma autônoma. O termo “autônomo” pode descrever funções bem diferentes:

• Assistência de voo: estabilizar a aeronave ou evitar obstáculos.
• Navegação: seguir uma rota pré-programada ou usar informações visuais quando o GPS é bloqueado ou sofre interferência.
• Rastreamento de alvos: manter o foco em um objeto que já foi escolhido por uma pessoa.
• Orientação terminal: aproximar-se de um alvo depois que um ser humano o identificou e autorizou o ataque.
• Seleção de alvos: procurar, identificar, escolher e atacar um objeto sem nova intervenção humana.

A última categoria é a mais significativa. O Comitê Internacional da Cruz Vermelha define a autonomia nas funções críticas de uma arma como a capacidade de selecionar e atacar alvos sem intervenção humana.

É por isso que o incidente de Zaporizhzhia chamou tanta atenção. O sistema relatado parece ter transferido parte da chamada “cadeia de destruição” — a sequência que vai da localização de um alvo ao uso da força — de um operador humano para o software. Drones FPV controlados remotamente e muitas munições vagantes já utilizavam algum grau de automação, mas ainda dependiam de uma pessoa para indicar o alvo ou autorizar o ataque final. 46

O que a resposta da Nvidia mostra — e o que não mostra

A Nvidia teria afirmado que o Jetson Orin é um produto civil, de nível consumidor, vendido para usos que incluem educação, desenvolvimento e startups, e que a linha Jetson não era comercializada pela empresa na Rússia. A companhia também reconheceu que esses produtos podem circular em mercados de revenda, nos quais seu deslocamento posterior é difícil de rastrear. 21819

A presença de um módulo Nvidia em um drone russo não prova, por si só, que a empresa tenha fornecido tecnologia conscientemente às Forças Armadas russas ou violado sanções. As reportagens disponíveis não identificam a rota de aquisição nem estabelecem quem desviou o equipamento. Elas revelam, porém, um problema mais amplo de cadeia de suprimentos: componentes de computação de uso duplo, desenvolvidos para robótica civil, podem ser revendidos, desviados e incorporados a armas.

Isso cria uma brecha difícil de fiscalizar. Restrições de exportação podem proibir vendas diretas a um destino sancionado, enquanto mercados secundários, intermediários e cadeias globais de eletrônicos dificultam saber onde um componente termina. O caso, portanto, levanta dúvidas sobre conformidade com sanções sem comprovar intenção corporativa ou responsabilidade jurídica da Nvidia.

Os riscos legais e éticos

A inteligência artificial não cria uma categoria jurídica separada na qual as regras da guerra deixam de valer. O direito internacional humanitário se aplica a armas que incorporam funções autônomas. Entre suas exigências centrais estão distinguir objetivos militares de civis e bens civis, avaliar a proporcionalidade e tomar precauções viáveis durante um ataque.

O problema da responsabilização é mais complexo. Se um algoritmo seleciona o alvo, a responsabilidade não pode ser transferida para o software. Os investigadores ainda precisam determinar quem projetou, testou, aprovou, programou, colocou em campo e supervisionou o sistema, além de identificar as regras de engajamento e as salvaguardas existentes. Análises jurídicas destacam a necessidade de rastrear a operação e os efeitos de uma arma autônoma até os agentes humanos relevantes.

A pergunta prática não é simplesmente se havia um ser humano envolvido em alguma etapa da missão. É saber se uma pessoa manteve controle significativo sobre o uso da força letal: conhecimento suficiente sobre o alvo e o contexto, limites claros para a atuação do sistema e capacidade de intervir, suspender ou cancelar o ataque quando isso fosse viável.

O que propostas de controle de armas precisariam prever

O incidente reforça os apelos por regras que preservem o controle humano significativo sobre o uso da força letal. Com base em propostas jurídicas e políticas já existentes, algumas salvaguardas práticas poderiam incluir:

• limites claros para os alvos, áreas geográficas e condições de operação em que um sistema autônomo pode atuar;
• avaliações rigorosas da arma antes de sua implantação;
• testes contra engano, identificação equivocada e ambientes urbanos com grande presença de civis;
• funções confiáveis de abortar, suspender e entrar em modo seguro;
• registros de missão e do sistema que possam ser auditados;
• definição da responsabilidade humana em todo o ciclo, do projeto e da compra ao emprego da arma; e
• investigações posteriores ao ataque capazes de reconstruir o que o sistema detectou e por que agiu.

Estados europeus afirmaram repetidamente que o direito internacional humanitário se aplica integralmente a sistemas autônomos e que os seres humanos devem manter a capacidade de fazer os julgamentos jurídicos envolvidos no uso da força letal. O debate internacional inclui propostas para proibir sistemas incapazes de cumprir o direito humanitário e regulamentar outros por meio de exigências obrigatórias de controle humano e responsabilização.

Por que as consequências ultrapassam a Ucrânia

Talvez a lição mais importante seja a pouca quantidade de hardware necessária para acrescentar autonomia a uma arma. Uma pequena estrutura aérea, uma câmera, um computador embarcado, um modelo de software e uma carga explosiva podem transferir uma decisão crítica de seleção de alvo de um operador remoto para uma máquina que processa informações localmente. A origem civil do Jetson Orin torna o problema especialmente relevante: a capacidade não depende necessariamente de um supercomputador militar desenvolvido sob encomenda. 28

À medida que Rússia e Ucrânia continuam desenvolvendo drones equipados com IA, a autonomia pode se tornar mais comum em ambientes onde as comunicações são instáveis e os operadores estão vulneráveis. A tecnologia pode aumentar a resistência à interferência eletrônica e reduzir a necessidade de controle manual constante. Mas também pode encurtar o tempo para decisões, multiplicar as consequências de erros de software e dificultar a proteção de civis em áreas urbanas densas.

O ponto central, portanto, não é saber se o drone era “inteligente” no sentido humano. A questão é se um sistema relativamente acessível de computação de borda já é suficiente para permitir que uma arma identifique e ataque um alvo sem que uma pessoa tome a decisão final. Se os relatos e as conclusões forenses estiverem corretos, o ataque de Zaporizhzhia é um alerta de que a fronteira entre assistência de IA e ação letal autônoma está se tornando uma realidade operacional — enquanto as salvaguardas jurídicas, técnicas e de cadeia de suprimentos ainda ficam para trás.