Googles Nano Banana 2-fadese: Slik ødela en AI-bildgenerator tilliten til satellittbilder på 24 timer

Eksempler på fabrikkerte satellittbilder

Forskere og journalister demonstrerte raskt faren ved å lage overbevisende falske satellittscener, inkludert:

• Et iransk atomanlegg som så skadet eller endret ut
• Flyktninger ved den meksikanske grensen (laget av den nederlandske OSINT-forskeren Henk van Ess)
• En flystyrt i Amsterdam
• Et bombekrater i Gaza
• Irans Kharg-øy i brann
• Et kollapset Eiffeltårn
• Skade ved den store pyramiden i Giza

Andre forfalskninger inkluderte en oversvømt hovedstad i USA, et bombekrater i Los Angeles og en protestsituasjon .

Hva forskerne advarte om

Henk van Ess, en nederlandsk etterretningsforsker med åpne kilder, fortalte The Guardian at verktøyet "ikke nektet noe" — det genererte flyktninger ved den meksikanske grensen, et atomkraftverk i Iran og en sykehussituasjon i Gaza uten noe innholdsfilter . Han advarte om at funksjonen fundamentalt undergravde troverdigheten til satellittbilder, som i årevis har vært et kritisk verktøy for etterforskere og faktasjekkere .

Jake Godin fra Bellingcat fortalte NPR at verktøyet kunne "fundamentalt ødelegge troverdigheten til satellittbilder som bevis." Han bemerket at satellittbilder historisk sett har vært blant de mest pålitelige bevisene i OSINT, og at dette verktøyet gjorde det trivielt enkelt å lage overbevisende forfalskninger som ville kreve betydelig innsats for å avkrefte .

Hvorfor SynthID-vannmerkene mislyktes

Google hadde innebygget SynthID-digitale vannmerker — både synlige etiketter og usynlig metadata — i hvert Nano Banana 2-bilde. Selskapet ba først brukere om å sjekke mistenkelige bilder med Gemini eller Google Lens . Men forskerne fant flere kritiske svakheter:

• SynthID-vannmerker kan beskjæres eller fjernes via enkle skjermbilder eller lagring på nytt, noe som fjerner den usynlige metadataen
• Vannmerket dekker kun AI-genererte deler, ikke det underliggende satellittbildet, noe som gjør det enkelt å påstå at et bilde er "ekte satellittdata"
• Noen fabrikkerte bilder besto SynthID-deteksjonskontroller fullstendig, noe som betyr at vannmerkesystemet ikke pålitelig flagget dem som AI-generert

TechTimes beskrev lanseringen som "den raskeste betydelige AI-produktsnuen drevet av en spesifikk sikkerhetssvikt" — sikkerhetsmekanismen Google nevnte som sin primære beskyttelse stoppet rett og slett ikke forfalskningene fra å spre seg .

Googles oppgitte grunn for å trekke tilbake

Google sa at de fjernet funksjonen etter å ha sett "folk dele skjermbilder av genererte bilder som ser ut til å bryte retningslinjene våre" . Selskapet uttalte at de ville "legge til sterkere sikkerhetstiltak" før de vurderer å lansere verktøyet på nytt . I en uttalelse på X skrev Google: "Vi tar feilinformasjon på alvor — hvert bilde laget med Nano Banana i Google Earth inneholder SynthID digitale vannmerker" . Men skaden var skjedd i løpet av få timer.

Hvorfor dette er viktig

Hendelsen fremhever en økende utfordring for teknologiselskaper som kappløper om å integrere generativ AI i produkter som brukere stoler på for faktisk informasjon. Satellittbilder har lenge blitt ansett som en pålitelig kilde til bevis for journalister, menneskerettighetsforkjempere og etterforskere med åpne kilder. Ved å gjøre det enkelt å lage overbevisende forfalskninger som arver troverdigheten til Google Earth-merkevaren, forvandlet Nano Banana 2-funksjonen et pålitelig kartverktøy til en potensiell motor for feilinformasjon.

Google har ikke kunngjort en tidslinje for gjenlansering av funksjonen.