Google Nano Banana 2-skandalen: Sådan knækkede en AI-billedgenerator tilliden til satellitbilleder på 24 timer

Eksempler på fabrikerede satellitbilleder

Forskere og journalister demonstrerede hurtigt faren ved at generere overbevisende falske satellitscener, herunder:

• Et iransk atomkraftværk der så beskadiget eller ændret ud
• Flygtninge ved den amerikansk-mexicanske grænse (skabt af den hollandske OSINT-forsker Henk van Ess)
• Et flystyrt i Amsterdam
• Et bombekrater i Gaza
• Irans Kharg-ø i brand
• Et kollapset Eiffeltårn
• Skader på den store pyramide i Giza

Andre forfalskninger inkluderede en oversvømmet Kongresbygning i USA, et bombekrater i Los Angeles og en protestsituation .

Hvad advarede forskerne om?

Henk van Ess, en hollandsk open source-efterretningsforsker, fortalte til The Guardian, at værktøjet »nægtede intet« – det genererede flygtninge ved den mexicanske grænse, et atomkraftværk i Iran og en hospitalscene i Gaza uden nogen form for indholdsfiltrering . Han advarede om, at funktionen underminerede troværdigheden af satellitbilleder, som i årevis har været et afgørende værktøj for open source-efterforskere og faktatjekkere .

Jake Godin fra Bellingcat sagde til NPR, at værktøjet »fundamentalt kunne ødelægge satellitbilleders troværdighed som bevis.« Han bemærkede, at satellitbilleder historisk set har været blandt de mest betroede stykker OSINT-bevis, og at dette værktøj gjorde det latterligt let at skabe overbevisende forfalskninger, der ville kræve betydelig indsats at afkræfte .

Hvorfor SynthID-vandmærkerne svigtede

Google havde indlejret SynthID-digitale vandmærker – både synlige mærkater og usynlige metadata – i alle Nano Banana 2-billeder. Virksomheden opfordrede først brugere til at tjekke mistænkelige billeder via Gemini eller Google Lens . Men forskere fandt flere kritiske fejl:

• SynthID-vandmærker kan beskæres eller fjernes via simpel skærmoptagelse eller genlagring, hvilket fjerner de usynlige metadata
• Vandmærket dækker kun AI-genererede dele, ikke det underliggende satellitbillede, hvilket gjorde det nemt at påstå, at et billede var »rigtige satellitdata«
• Nogle fabrikerede billeder bestod SynthID-detektionskontrollen fuldstændigt, hvilket betyder, at vandmærkesystemet ikke pålideligt flaggede dem som AI-genererede

TechTimes beskrev udrulningen som »den hurtigste markante AI-produkttilbagetrækning drevet af en specifik sikkerhedsbrist« – den beskyttelsesforanstaltning, Google fremhævede som sin primære sikkerhed, stoppede simpelthen ikke de falske billeder i at cirkulere .

Googles officielle begrundelse for tilbagetrækningen

Google udtalte, at de fjernede funktionen efter at have set »folk dele skærmbilleder af genererede billeder, der tilsyneladende overtræder vores retningslinjer« . Virksomheden meddelte, at de ville »tilføje stærkere beskyttelsesforanstaltninger«, før de overvejer at genudgive værktøjet . I en udtalelse på X skrev Google: »Vi tager misinformation alvorligt – hvert billede skabt med Nano Banana i Google Earth inkluderer SynthID-digitalvandmærket« . Men skaden var sket inden for få timer.

Hvorfor dette er vigtigt

Hændelsen belyser en voksende udfordring for teknologivirksomheder, der kappes om at integrere generativ AI i produkter, som brugerne stoler på for faktuel information. Satellitbilleder har længe været betragtet som en pålidelig beviskilde for journalister, menneskerettighedsaktivister og open source-forskere. Ved at gøre det nemt at skabe overbevisende forfalskninger, der arver troværdigheden fra Google Earths brand, blev Nano Banana 2-funktionen i en kort periode et værktøj til at skabe misinformation.

Google har ikke offentliggjort en tidsplan for genudgivelse af funktionen.