O desastre do Nano Banana 2 do Google: como um gerador de imagens de IA abalou a confiança em imagens de satélite em 24 horas

Exemplos de imagens de satélite fabricadas

Pesquisadores e jornalistas demonstraram rapidamente o perigo gerando cenas falsas convincentes de satélite, incluindo:

• Uma instalação nuclear iraniana aparecendo danificada ou alterada
• Refugiados na fronteira EUA-México (criada pelo pesquisador holandês de OSINT Henk van Ess)
• Um acidente de avião em Amsterdã
• Uma cratera de bomba em Gaza
• A Ilha de Kharg, no Irã, em chamas
• A Torre Eiffel desabada
• Danos na Grande Pirâmide de Gizé

Outras falsificações incluíram o Capitólio dos EUA inundado, uma cratera de explosão em Los Angeles e uma cena de protesto .

O que os pesquisadores alertaram

Henk van Ess, pesquisador holandês de inteligência de fontes abertas, disse ao The Guardian que a ferramenta "não recusava nada" — gerou refugiados na fronteira mexicana, uma usina nuclear no Irã e uma cena de hospital em Gaza sem qualquer filtro de conteúdo . Ele alertou que o recurso minava fundamentalmente a confiabilidade das imagens de satélite, que por anos têm sido uma ferramenta essencial para investigadores de fontes abertas e verificadores de fatos .

Jake Godin, do Bellingcat, disse à NPR que a ferramenta podia "destruir fundamentalmente a credibilidade das imagens de satélite como evidência". Ele observou que as imagens de satélite estão historicamente entre as provas mais confiáveis em investigações OSINT, e esta ferramenta tornou trivial a criação de falsificações convincentes que exigiriam um esforço significativo para serem desmascaradas .

Por que as marcas d'água SynthID falharam

O Google havia incorporado marcas d'água digitais SynthID — tanto rótulos visíveis quanto metadados invisíveis — em cada imagem gerada pelo Nano Banana 2. A empresa instruiu os usuários a verificarem imagens suspeitas usando o Gemini ou o Google Lens . No entanto, os pesquisadores encontraram várias falhas críticas:

• As marcas d'água SynthID podem ser cortadas ou removidas com uma simples captura de tela ou salvamento, eliminando os metadados invisíveis
• A marca d'água cobre apenas as partes geradas por IA, não as imagens de satélite subjacentes, facilitando a alegação de que uma imagem era "dado real de satélite"
• Algumas imagens fabricadas passaram completamente despercebidas pelas verificações de detecção SynthID, o que significa que o sistema de marca d'água não as identificou de forma confiável como geradas por IA

O TechTimes descreveu o lançamento como "a reversão significativa mais rápida de um produto de IA impulsionada por uma falha de segurança específica" — a barreira que o Google apontou como sua principal proteção simplesmente não impediu que as falsificações circulassem .

Razão declarada pelo Google para a reversão

O Google afirmou que removeu o recurso após ver "pessoas compartilhando capturas de tela de imagens geradas que parecem violar nossas políticas" . A empresa declarou que "implementaria barreiras de proteção mais fortes" antes de considerar o relançamento da ferramenta . Em uma declaração no X, o Google escreveu: "Levamos a desinformação a sério — toda imagem criada com o Nano Banana no Google Earth inclui a marca d'água digital SynthID" . Mas o dano estava feito em questão de horas.

Por que isso importa

O incidente destaca um desafio crescente para empresas de tecnologia que correm para integrar IA generativa em produtos nos quais os usuários confiam para obter informações factuais. As imagens de satélite são consideradas há muito tempo uma fonte confiável de evidências para jornalistas, investigadores de direitos humanos e pesquisadores de fontes abertas. Ao facilitar a criação de falsificações convincentes que herdam a credibilidade da marca Google Earth, o recurso Nano Banana 2 transformou brevemente uma ferramenta de mapeamento confiável em um potencial motor de desinformação.

O Google não anunciou um cronograma para o relançamento do recurso.