Exemples d'images satellite falsifiées

Des chercheurs et des journalistes ont rapidement démontré le danger en générant de fausses scènes satellite convaincantes, notamment :

• Une installation nucléaire iranienne apparaissant endommagée ou modifiée
• Des réfugiés à la frontière américano-mexicaine (créés par le chercheur néerlandais en OSINT Henk van Ess)
• Un accident d'avion à Amsterdam
• Un cratère de bombe à Gaza
• L'île iranienne de Kharg en feu
• La tour Eiffel effondrée
• Des dégâts à la grande pyramide de Gizeh

Parmi les autres faux, on compte un Capitole américain inondé, un cratère d'explosion à Los Angeles et une scène de protestation .

Ce que les chercheurs ont dénoncé

Henk van Ess, un chercheur néerlandais en renseignement open source, a déclaré au Guardian que l'outil "ne refusait rien" — il a généré des réfugiés à la frontière mexicaine, une centrale nucléaire en Iran et une scène d'hôpital à Gaza sans aucun filtre de contenu . Il a prévenu que la fonctionnalité minait fondamentalement la fiabilité des images satellite, qui sont depuis des années un outil crucial pour les enquêteurs open source et les vérificateurs de faits .

Jake Godin de Bellingcat a déclaré à NPR que l'outil pourrait "fondamentalement détruire la crédibilité des images satellite en tant que preuve". Il a noté que les images satellite ont historiquement été parmi les pièces de preuve les plus fiables dans le domaine du Renseignement Open Source (OSINT), et que cet outil permettait de créer facilement des faux convaincants qu'il faudrait un effort considérable pour démystifier .

Pourquoi les filigranes SynthID ont échoué

Google avait intégré des filigranes numériques SynthID — à la fois des labels visibles et des métadonnées invisibles — dans chaque image de Nano Banana 2. L'entreprise avait initialement demandé aux utilisateurs de vérifier les images suspectes via Gemini ou Google Lens . Mais les chercheurs ont découvert plusieurs défaillances critiques :

• Les filigranes SynthID peuvent être recadrés ou supprimés par une simple capture d'écran ou un réenregistrement, supprimant les métadonnées invisibles
• Le filigrane ne couvre que les parties générées par l'IA, pas l'image satellite sous-jacente, ce qui permet de prétendre facilement qu'une image est une "vraie donnée satellite"
• Certaines images falsifiées ont passé avec succès les contrôles de détection SynthID, ce qui signifie que le système de filigrane n'a pas réussi à les identifier de manière fiable comme générées par l'IA

Le TechTimes a qualifié ce déploiement de "revirement de produit IA le plus rapide provoqué par une défaillance de sécurité spécifique" — la barrière de protection que Google présentait comme sa protection principale n'a tout simplement pas empêché la circulation des faux .

La raison invoquée par Google pour le retrait

Google a indiqué avoir retiré la fonctionnalité après avoir constaté "des personnes partageant des captures d'écran d'images générées qui semblent violer nos politiques" . L'entreprise a déclaré qu'elle allait "ajouter des garde-fous plus solides" avant d'envisager de rééditer l'outil . Dans un communiqué sur X, Google a écrit : "Nous prenons la désinformation au sérieux — chaque image créée avec Nano Banana dans Google Earth inclut le filigrane numérique SynthID" . Mais le mal était déjà fait en quelques heures.

Pourquoi c'est important

Cet incident met en lumière un défi croissant pour les entreprises technologiques qui intègrent à toute vitesse l'IA générative dans des produits que les utilisateurs considèrent comme des sources d'informations factuelles. L'imagerie satellite a longtemps été considérée comme une source de preuves fiable pour les journalistes, les enquêteurs des droits de l'homme et les chercheurs open source. En permettant de créer facilement des faux convaincants qui héritent de la crédibilité de la marque Google Earth, la fonctionnalité Nano Banana 2 a brièvement transformé un outil cartographique de confiance en un moteur potentiel de désinformation.

Google n'a pas annoncé de calendrier pour la réédition de la fonctionnalité.

Exemples d'images satellite falsifiées

Des chercheurs et des journalistes ont rapidement démontré le danger en générant de fausses scènes satellite convaincantes, notamment :

• Une installation nucléaire iranienne apparaissant endommagée ou modifiée
• Des réfugiés à la frontière américano-mexicaine (créés par le chercheur néerlandais en OSINT Henk van Ess)
• Un accident d'avion à Amsterdam
• Un cratère de bombe à Gaza
• L'île iranienne de Kharg en feu
• La tour Eiffel effondrée
• Des dégâts à la grande pyramide de Gizeh

Parmi les autres faux, on compte un Capitole américain inondé, un cratère d'explosion à Los Angeles et une scène de protestation .

Ce que les chercheurs ont dénoncé

Henk van Ess, un chercheur néerlandais en renseignement open source, a déclaré au Guardian que l'outil "ne refusait rien" — il a généré des réfugiés à la frontière mexicaine, une centrale nucléaire en Iran et une scène d'hôpital à Gaza sans aucun filtre de contenu . Il a prévenu que la fonctionnalité minait fondamentalement la fiabilité des images satellite, qui sont depuis des années un outil crucial pour les enquêteurs open source et les vérificateurs de faits .

Jake Godin de Bellingcat a déclaré à NPR que l'outil pourrait "fondamentalement détruire la crédibilité des images satellite en tant que preuve". Il a noté que les images satellite ont historiquement été parmi les pièces de preuve les plus fiables dans le domaine du Renseignement Open Source (OSINT), et que cet outil permettait de créer facilement des faux convaincants qu'il faudrait un effort considérable pour démystifier .

Pourquoi les filigranes SynthID ont échoué

Google avait intégré des filigranes numériques SynthID — à la fois des labels visibles et des métadonnées invisibles — dans chaque image de Nano Banana 2. L'entreprise avait initialement demandé aux utilisateurs de vérifier les images suspectes via Gemini ou Google Lens . Mais les chercheurs ont découvert plusieurs défaillances critiques :

• Les filigranes SynthID peuvent être recadrés ou supprimés par une simple capture d'écran ou un réenregistrement, supprimant les métadonnées invisibles
• Le filigrane ne couvre que les parties générées par l'IA, pas l'image satellite sous-jacente, ce qui permet de prétendre facilement qu'une image est une "vraie donnée satellite"
• Certaines images falsifiées ont passé avec succès les contrôles de détection SynthID, ce qui signifie que le système de filigrane n'a pas réussi à les identifier de manière fiable comme générées par l'IA

Le TechTimes a qualifié ce déploiement de "revirement de produit IA le plus rapide provoqué par une défaillance de sécurité spécifique" — la barrière de protection que Google présentait comme sa protection principale n'a tout simplement pas empêché la circulation des faux .

La raison invoquée par Google pour le retrait

Google a indiqué avoir retiré la fonctionnalité après avoir constaté "des personnes partageant des captures d'écran d'images générées qui semblent violer nos politiques" . L'entreprise a déclaré qu'elle allait "ajouter des garde-fous plus solides" avant d'envisager de rééditer l'outil . Dans un communiqué sur X, Google a écrit : "Nous prenons la désinformation au sérieux — chaque image créée avec Nano Banana dans Google Earth inclut le filigrane numérique SynthID" . Mais le mal était déjà fait en quelques heures.

Pourquoi c'est important

Cet incident met en lumière un défi croissant pour les entreprises technologiques qui intègrent à toute vitesse l'IA générative dans des produits que les utilisateurs considèrent comme des sources d'informations factuelles. L'imagerie satellite a longtemps été considérée comme une source de preuves fiable pour les journalistes, les enquêteurs des droits de l'homme et les chercheurs open source. En permettant de créer facilement des faux convaincants qui héritent de la crédibilité de la marque Google Earth, la fonctionnalité Nano Banana 2 a brièvement transformé un outil cartographique de confiance en un moteur potentiel de désinformation.

Google n'a pas annoncé de calendrier pour la réédition de la fonctionnalité.