Eksempler på fabrikerede satellitbilleder

Forskere og journalister demonstrerede hurtigt faren ved at generere overbevisende falske satellitscener, herunder:

• Et iransk atomkraftværk der så beskadiget eller ændret ud
• Flygtninge ved den amerikansk-mexicanske grænse (skabt af den hollandske OSINT-forsker Henk van Ess)
• Et flystyrt i Amsterdam
• Et bombekrater i Gaza
• Irans Kharg-ø i brand
• Et kollapset Eiffeltårn
• Skader på den store pyramide i Giza

Andre forfalskninger inkluderede en oversvømmet Kongresbygning i USA, et bombekrater i Los Angeles og en protestsituation .

Hvad advarede forskerne om?

Henk van Ess, en hollandsk open source-efterretningsforsker, fortalte til The Guardian, at værktøjet »nægtede intet« – det genererede flygtninge ved den mexicanske grænse, et atomkraftværk i Iran og en hospitalscene i Gaza uden nogen form for indholdsfiltrering . Han advarede om, at funktionen underminerede troværdigheden af satellitbilleder, som i årevis har været et afgørende værktøj for open source-efterforskere og faktatjekkere .

Jake Godin fra Bellingcat sagde til NPR, at værktøjet »fundamentalt kunne ødelægge satellitbilleders troværdighed som bevis.« Han bemærkede, at satellitbilleder historisk set har været blandt de mest betroede stykker OSINT-bevis, og at dette værktøj gjorde det latterligt let at skabe overbevisende forfalskninger, der ville kræve betydelig indsats at afkræfte .

Hvorfor SynthID-vandmærkerne svigtede

Google havde indlejret SynthID-digitale vandmærker – både synlige mærkater og usynlige metadata – i alle Nano Banana 2-billeder. Virksomheden opfordrede først brugere til at tjekke mistænkelige billeder via Gemini eller Google Lens . Men forskere fandt flere kritiske fejl:

• SynthID-vandmærker kan beskæres eller fjernes via simpel skærmoptagelse eller genlagring, hvilket fjerner de usynlige metadata
• Vandmærket dækker kun AI-genererede dele, ikke det underliggende satellitbillede, hvilket gjorde det nemt at påstå, at et billede var »rigtige satellitdata«
• Nogle fabrikerede billeder bestod SynthID-detektionskontrollen fuldstændigt, hvilket betyder, at vandmærkesystemet ikke pålideligt flaggede dem som AI-genererede

TechTimes beskrev udrulningen som »den hurtigste markante AI-produkttilbagetrækning drevet af en specifik sikkerhedsbrist« – den beskyttelsesforanstaltning, Google fremhævede som sin primære sikkerhed, stoppede simpelthen ikke de falske billeder i at cirkulere .

Googles officielle begrundelse for tilbagetrækningen

Google udtalte, at de fjernede funktionen efter at have set »folk dele skærmbilleder af genererede billeder, der tilsyneladende overtræder vores retningslinjer« . Virksomheden meddelte, at de ville »tilføje stærkere beskyttelsesforanstaltninger«, før de overvejer at genudgive værktøjet . I en udtalelse på X skrev Google: »Vi tager misinformation alvorligt – hvert billede skabt med Nano Banana i Google Earth inkluderer SynthID-digitalvandmærket« . Men skaden var sket inden for få timer.

Hvorfor dette er vigtigt

Hændelsen belyser en voksende udfordring for teknologivirksomheder, der kappes om at integrere generativ AI i produkter, som brugerne stoler på for faktuel information. Satellitbilleder har længe været betragtet som en pålidelig beviskilde for journalister, menneskerettighedsaktivister og open source-forskere. Ved at gøre det nemt at skabe overbevisende forfalskninger, der arver troværdigheden fra Google Earths brand, blev Nano Banana 2-funktionen i en kort periode et værktøj til at skabe misinformation.

Google har ikke offentliggjort en tidsplan for genudgivelse af funktionen.

Eksempler på fabrikerede satellitbilleder

Forskere og journalister demonstrerede hurtigt faren ved at generere overbevisende falske satellitscener, herunder:

• Et iransk atomkraftværk der så beskadiget eller ændret ud
• Flygtninge ved den amerikansk-mexicanske grænse (skabt af den hollandske OSINT-forsker Henk van Ess)
• Et flystyrt i Amsterdam
• Et bombekrater i Gaza
• Irans Kharg-ø i brand
• Et kollapset Eiffeltårn
• Skader på den store pyramide i Giza

Andre forfalskninger inkluderede en oversvømmet Kongresbygning i USA, et bombekrater i Los Angeles og en protestsituation .

Hvad advarede forskerne om?

Henk van Ess, en hollandsk open source-efterretningsforsker, fortalte til The Guardian, at værktøjet »nægtede intet« – det genererede flygtninge ved den mexicanske grænse, et atomkraftværk i Iran og en hospitalscene i Gaza uden nogen form for indholdsfiltrering . Han advarede om, at funktionen underminerede troværdigheden af satellitbilleder, som i årevis har været et afgørende værktøj for open source-efterforskere og faktatjekkere .

Jake Godin fra Bellingcat sagde til NPR, at værktøjet »fundamentalt kunne ødelægge satellitbilleders troværdighed som bevis.« Han bemærkede, at satellitbilleder historisk set har været blandt de mest betroede stykker OSINT-bevis, og at dette værktøj gjorde det latterligt let at skabe overbevisende forfalskninger, der ville kræve betydelig indsats at afkræfte .

Hvorfor SynthID-vandmærkerne svigtede

Google havde indlejret SynthID-digitale vandmærker – både synlige mærkater og usynlige metadata – i alle Nano Banana 2-billeder. Virksomheden opfordrede først brugere til at tjekke mistænkelige billeder via Gemini eller Google Lens . Men forskere fandt flere kritiske fejl:

• SynthID-vandmærker kan beskæres eller fjernes via simpel skærmoptagelse eller genlagring, hvilket fjerner de usynlige metadata
• Vandmærket dækker kun AI-genererede dele, ikke det underliggende satellitbillede, hvilket gjorde det nemt at påstå, at et billede var »rigtige satellitdata«
• Nogle fabrikerede billeder bestod SynthID-detektionskontrollen fuldstændigt, hvilket betyder, at vandmærkesystemet ikke pålideligt flaggede dem som AI-genererede

TechTimes beskrev udrulningen som »den hurtigste markante AI-produkttilbagetrækning drevet af en specifik sikkerhedsbrist« – den beskyttelsesforanstaltning, Google fremhævede som sin primære sikkerhed, stoppede simpelthen ikke de falske billeder i at cirkulere .

Googles officielle begrundelse for tilbagetrækningen

Google udtalte, at de fjernede funktionen efter at have set »folk dele skærmbilleder af genererede billeder, der tilsyneladende overtræder vores retningslinjer« . Virksomheden meddelte, at de ville »tilføje stærkere beskyttelsesforanstaltninger«, før de overvejer at genudgive værktøjet . I en udtalelse på X skrev Google: »Vi tager misinformation alvorligt – hvert billede skabt med Nano Banana i Google Earth inkluderer SynthID-digitalvandmærket« . Men skaden var sket inden for få timer.

Hvorfor dette er vigtigt

Hændelsen belyser en voksende udfordring for teknologivirksomheder, der kappes om at integrere generativ AI i produkter, som brugerne stoler på for faktuel information. Satellitbilleder har længe været betragtet som en pålidelig beviskilde for journalister, menneskerettighedsaktivister og open source-forskere. Ved at gøre det nemt at skabe overbevisende forfalskninger, der arver troværdigheden fra Google Earths brand, blev Nano Banana 2-funktionen i en kort periode et værktøj til at skabe misinformation.

Google har ikke offentliggjort en tidsplan for genudgivelse af funktionen.