De Nano Banana 2-blunder van Google: hoe een AI-beeldgenerator in 24 uur het vertrouwen in satellietbeelden brak

Voorbeelden van vervalste satellietbeelden

Onderzoekers en journalisten toonden snel het gevaar aan door overtuigende nepsatellietbeelden te maken, waaronder:

• Een Iraanse nucleaire faciliteit die beschadigd of veranderd leek
• Vluchtelingen aan de grens van de VS en Mexico (gemaakt door de Nederlandse OSINT-onderzoeker Henk van Ess)
• Een vliegtuigcrash in Amsterdam
• Een bomkrater in Gaza
• Het Iraanse Kharg-eiland in brand
• Een ingestorte Eiffeltoren
• Schade aan de Piramide van Gizeh

Andere vervalsingen waren onder meer een overstroomd Capitool in Washington, een granaattrechter in Los Angeles en een protestscène .

Wat onderzoekers waarschuwden

Henk van Ess, een Nederlandse open-source-inlichtingenonderzoeker, vertelde The Guardian dat de tool "niets weigerde" – hij genereerde vluchtelingen aan de Mexicaanse grens, een kerncentrale in Iran en een ziekenhuisscène in Gaza zonder enige contentfiltering . Hij waarschuwde dat de functie de betrouwbaarheid van satellietbeelden, die jarenlang een cruciaal hulpmiddel zijn geweest voor open-source-onderzoekers en factcheckers, fundamenteel ondermijnde .

Jake Godin van Bellingcat vertelde NPR dat de tool "de geloofwaardigheid van satellietbeelden als bewijs fundamenteel kon vernietigen." Hij merkte op dat satellietbeelden historisch gezien tot de meest vertrouwde OSINT-bewijzen behoren, en dat deze tool het triviaal eenvoudig maakte om overtuigende vervalsingen te maken die aanzienlijke inspanning zouden kosten om te ontkrachten .

Waarom SynthID-watermerken faalden

Google had SynthID-digitale watermerken – zowel zichtbare labels als onzichtbare metadata – in elk Nano Banana 2-beeld ingebed. Het bedrijf vertelde gebruikers aanvankelijk om verdachte afbeeldingen te controleren met Gemini of Google Lens . Maar onderzoekers ontdekten verschillende kritieke fouten:

• SynthID-watermerken kunnen worden weggesneden of verwijderd door simpelweg een screenshot te maken of het bestand opnieuw op te slaan, waardoor de onzichtbare metadata verdwijnen
• Het watermerk dekt alleen de AI-gegenereerde delen, niet de onderliggende satellietbeelden, waardoor het gemakkelijk is om te beweren dat een beeld "echte satellietdata" is
• Sommige vervalste beelden passeerden SynthID-detectiecontroles volledig, wat betekent dat het watermerksysteem ze niet betrouwbaar als AI-gegenereerd markeerde

The TechTimes beschreef de uitrol als "de snelste significante terugdraaiing van een AI-product gedreven door een specifiek veiligheidsfalen" – de beveiliging die Google als primaire bescherming noemde, voorkwam simpelweg niet dat de vervalsingen werden verspreid .

Google's opgegeven reden voor de terugdraaiing

Google zei de functie te hebben teruggetrokken nadat het "mensen screenshots van gegenereerde beelden zag delen die ons beleid lijken te schenden" . Het bedrijf verklaarde "sterkere beveiligingen te zullen toevoegen" voordat het de tool opnieuw zou vrijgeven . In een verklaring op X schreef Google: "We nemen desinformatie serieus – elk beeld dat met Nano Banana in Google Earth is gemaakt, bevat het SynthID digitale watermerk" . Maar de schade was binnen uren aangericht.

Waarom dit ertoe doet

Het incident benadrukt een groeiende uitdaging voor techbedrijven die generatieve AI willen integreren in producten die gebruikers vertrouwen voor feitelijke informatie. Satellietbeelden worden al lang beschouwd als een betrouwbare bron van bewijs voor journalisten, mensenrechtenonderzoekers en open-source-onderzoekers. Door het eenvoudig te maken overtuigende vervalsingen te maken die de geloofwaardigheid van het Google Earth-merk erven, veranderde de Nano Banana 2-functie kortstondig een vertrouwd kaarthulpmiddel in een potentiële motor voor desinformatie.

Google heeft nog geen tijdlijn aangekondigd voor het opnieuw uitbrengen van de functie.