El 'fiasco' de Nano Banana 2: cómo Google destruyó la credibilidad de las imágenes satelitales en solo un día

Ejemplos de imágenes satelitales falsificadas

Investigadores y periodistas demostraron rápidamente el peligro al generar escenas satelitales falsas convincentes, entre ellas:

• Una planta nuclear iraní que aparecía dañada o alterada
• Refugiados en la frontera entre Estados Unidos y México (creada por el investigador neerlandés de OSINT Henk van Ess)
• Un accidente aéreo en Ámsterdam
• Un cráter de bomba en Gaza
• La isla iraní de Kharg en llamas
• La Torre Eiffel derrumbada
• Daños en la Gran Pirámide de Guiza

Otras falsificaciones incluyeron un Capitolio de EE. UU. inundado, un cráter de explosión en Los Ángeles y una escena de protesta .

Lo que advirtieron los investigadores

Henk van Ess, investigador neerlandés de inteligencia de fuentes abiertas, declaró a The Guardian que la herramienta "no rechazaba nada": generó refugiados en la frontera mexicana, una planta nuclear en Irán y una escena de un hospital en Gaza sin ningún filtro de contenido . Advirtió que la función socavaba fundamentalmente la fiabilidad de las imágenes satelitales, que durante años han sido una herramienta crucial para los investigadores de fuente abierta y los verificadores de datos .

Jake Godin, de Bellingcat, dijo a NPR que la herramienta podía "destruir fundamentalmente la credibilidad de las imágenes satelitales como prueba". Señaló que las imágenes satelitales han sido históricamente una de las pruebas de OSINT más fiables, y que esta herramienta facilitaba de manera trivial la creación de falsificaciones convincentes que requerirían un esfuerzo significativo para desmentir .

Por qué fallaron las marcas de agua SynthID

Google había incorporado marcas de agua digitales SynthID (etiquetas visibles y metadatos invisibles) en cada imagen de Nano Banana 2. La empresa inicialmente indicó a los usuarios que verificaran las imágenes sospechosas mediante Gemini o Google Lens . Sin embargo, los investigadores descubrieron varios fallos críticos:

• Las marcas de agua SynthID se pueden recortar o eliminar mediante una simple captura de pantalla o un reguardado, eliminando los metadatos invisibles
• La marca de agua solo cubre las partes generadas por IA, no la imagen satelital subyacente, lo que facilita afirmar que una imagen es "datos satelitales reales"
• Algunas imágenes falsificadas superaron por completo las comprobaciones de detección de SynthID, lo que significa que el sistema de marcas de agua no las identificaba de forma fiable como generadas por IA

TechTimes describió el lanzamiento como "la reversión más rápida de un producto de IA significativo impulsada por un fallo de seguridad específico": la salvaguarda que Google presentó como su protección principal simplemente no impidió que las falsificaciones circularan .

La razón declarada de Google para la retirada

Google afirmó que retiró la función tras ver "capturas de pantalla de imágenes generadas que parecen violar nuestras políticas" . La compañía declaró que "añadiría salvaguardas más sólidas" antes de considerar relanzar la herramienta . En un comunicado en X, Google escribió: "Nos tomamos la desinformación en serio: cada imagen creada con Nano Banana en Google Earth incluye la marca de agua digital SynthID" . Pero el daño ya estaba hecho en cuestión de horas.

Por qué esto es importante

El incidente pone de relieve un desafío creciente para las empresas tecnológicas que compiten por integrar la IA generativa en productos en los que los usuarios confían para obtener información fidedigna. Las imágenes satelitales se han considerado durante mucho tiempo una fuente fiable de pruebas para periodistas, investigadores de derechos humanos e investigadores de fuentes abiertas. Al facilitar la creación de falsificaciones convincentes que heredan la credibilidad de la marca Google Earth, la función Nano Banana 2 convirtió brevemente una herramienta de mapas de confianza en un posible motor de desinformación.

Google no ha anunciado un plazo para relanzar la función.