Eksempler på fabrikkerte satellittbilder

Forskere og journalister demonstrerte raskt faren ved å lage overbevisende falske satellittscener, inkludert:

• Et iransk atomanlegg som så skadet eller endret ut
• Flyktninger ved den meksikanske grensen (laget av den nederlandske OSINT-forskeren Henk van Ess)
• En flystyrt i Amsterdam
• Et bombekrater i Gaza
• Irans Kharg-øy i brann
• Et kollapset Eiffeltårn
• Skade ved den store pyramiden i Giza

Andre forfalskninger inkluderte en oversvømt hovedstad i USA, et bombekrater i Los Angeles og en protestsituasjon .

Hva forskerne advarte om

Henk van Ess, en nederlandsk etterretningsforsker med åpne kilder, fortalte The Guardian at verktøyet "ikke nektet noe" — det genererte flyktninger ved den meksikanske grensen, et atomkraftverk i Iran og en sykehussituasjon i Gaza uten noe innholdsfilter . Han advarte om at funksjonen fundamentalt undergravde troverdigheten til satellittbilder, som i årevis har vært et kritisk verktøy for etterforskere og faktasjekkere .

Jake Godin fra Bellingcat fortalte NPR at verktøyet kunne "fundamentalt ødelegge troverdigheten til satellittbilder som bevis." Han bemerket at satellittbilder historisk sett har vært blant de mest pålitelige bevisene i OSINT, og at dette verktøyet gjorde det trivielt enkelt å lage overbevisende forfalskninger som ville kreve betydelig innsats for å avkrefte .

Hvorfor SynthID-vannmerkene mislyktes

Google hadde innebygget SynthID-digitale vannmerker — både synlige etiketter og usynlig metadata — i hvert Nano Banana 2-bilde. Selskapet ba først brukere om å sjekke mistenkelige bilder med Gemini eller Google Lens . Men forskerne fant flere kritiske svakheter:

• SynthID-vannmerker kan beskjæres eller fjernes via enkle skjermbilder eller lagring på nytt, noe som fjerner den usynlige metadataen
• Vannmerket dekker kun AI-genererte deler, ikke det underliggende satellittbildet, noe som gjør det enkelt å påstå at et bilde er "ekte satellittdata"
• Noen fabrikkerte bilder besto SynthID-deteksjonskontroller fullstendig, noe som betyr at vannmerkesystemet ikke pålitelig flagget dem som AI-generert

TechTimes beskrev lanseringen som "den raskeste betydelige AI-produktsnuen drevet av en spesifikk sikkerhetssvikt" — sikkerhetsmekanismen Google nevnte som sin primære beskyttelse stoppet rett og slett ikke forfalskningene fra å spre seg .

Googles oppgitte grunn for å trekke tilbake

Google sa at de fjernet funksjonen etter å ha sett "folk dele skjermbilder av genererte bilder som ser ut til å bryte retningslinjene våre" . Selskapet uttalte at de ville "legge til sterkere sikkerhetstiltak" før de vurderer å lansere verktøyet på nytt . I en uttalelse på X skrev Google: "Vi tar feilinformasjon på alvor — hvert bilde laget med Nano Banana i Google Earth inneholder SynthID digitale vannmerker" . Men skaden var skjedd i løpet av få timer.

Hvorfor dette er viktig

Hendelsen fremhever en økende utfordring for teknologiselskaper som kappløper om å integrere generativ AI i produkter som brukere stoler på for faktisk informasjon. Satellittbilder har lenge blitt ansett som en pålitelig kilde til bevis for journalister, menneskerettighetsforkjempere og etterforskere med åpne kilder. Ved å gjøre det enkelt å lage overbevisende forfalskninger som arver troverdigheten til Google Earth-merkevaren, forvandlet Nano Banana 2-funksjonen et pålitelig kartverktøy til en potensiell motor for feilinformasjon.

Google har ikke kunngjort en tidslinje for gjenlansering av funksjonen.

Eksempler på fabrikkerte satellittbilder

Forskere og journalister demonstrerte raskt faren ved å lage overbevisende falske satellittscener, inkludert:

• Et iransk atomanlegg som så skadet eller endret ut
• Flyktninger ved den meksikanske grensen (laget av den nederlandske OSINT-forskeren Henk van Ess)
• En flystyrt i Amsterdam
• Et bombekrater i Gaza
• Irans Kharg-øy i brann
• Et kollapset Eiffeltårn
• Skade ved den store pyramiden i Giza

Andre forfalskninger inkluderte en oversvømt hovedstad i USA, et bombekrater i Los Angeles og en protestsituasjon .

Hva forskerne advarte om

Henk van Ess, en nederlandsk etterretningsforsker med åpne kilder, fortalte The Guardian at verktøyet "ikke nektet noe" — det genererte flyktninger ved den meksikanske grensen, et atomkraftverk i Iran og en sykehussituasjon i Gaza uten noe innholdsfilter . Han advarte om at funksjonen fundamentalt undergravde troverdigheten til satellittbilder, som i årevis har vært et kritisk verktøy for etterforskere og faktasjekkere .

Jake Godin fra Bellingcat fortalte NPR at verktøyet kunne "fundamentalt ødelegge troverdigheten til satellittbilder som bevis." Han bemerket at satellittbilder historisk sett har vært blant de mest pålitelige bevisene i OSINT, og at dette verktøyet gjorde det trivielt enkelt å lage overbevisende forfalskninger som ville kreve betydelig innsats for å avkrefte .

Hvorfor SynthID-vannmerkene mislyktes

Google hadde innebygget SynthID-digitale vannmerker — både synlige etiketter og usynlig metadata — i hvert Nano Banana 2-bilde. Selskapet ba først brukere om å sjekke mistenkelige bilder med Gemini eller Google Lens . Men forskerne fant flere kritiske svakheter:

• SynthID-vannmerker kan beskjæres eller fjernes via enkle skjermbilder eller lagring på nytt, noe som fjerner den usynlige metadataen
• Vannmerket dekker kun AI-genererte deler, ikke det underliggende satellittbildet, noe som gjør det enkelt å påstå at et bilde er "ekte satellittdata"
• Noen fabrikkerte bilder besto SynthID-deteksjonskontroller fullstendig, noe som betyr at vannmerkesystemet ikke pålitelig flagget dem som AI-generert

TechTimes beskrev lanseringen som "den raskeste betydelige AI-produktsnuen drevet av en spesifikk sikkerhetssvikt" — sikkerhetsmekanismen Google nevnte som sin primære beskyttelse stoppet rett og slett ikke forfalskningene fra å spre seg .

Googles oppgitte grunn for å trekke tilbake

Google sa at de fjernet funksjonen etter å ha sett "folk dele skjermbilder av genererte bilder som ser ut til å bryte retningslinjene våre" . Selskapet uttalte at de ville "legge til sterkere sikkerhetstiltak" før de vurderer å lansere verktøyet på nytt . I en uttalelse på X skrev Google: "Vi tar feilinformasjon på alvor — hvert bilde laget med Nano Banana i Google Earth inneholder SynthID digitale vannmerker" . Men skaden var skjedd i løpet av få timer.

Hvorfor dette er viktig

Hendelsen fremhever en økende utfordring for teknologiselskaper som kappløper om å integrere generativ AI i produkter som brukere stoler på for faktisk informasjon. Satellittbilder har lenge blitt ansett som en pålitelig kilde til bevis for journalister, menneskerettighetsforkjempere og etterforskere med åpne kilder. Ved å gjøre det enkelt å lage overbevisende forfalskninger som arver troverdigheten til Google Earth-merkevaren, forvandlet Nano Banana 2-funksjonen et pålitelig kartverktøy til en potensiell motor for feilinformasjon.

Google har ikke kunngjort en tidslinje for gjenlansering av funksjonen.