Google lanserte AI-bildegenerator i Google Earth – fjernet etter ett døgn

Hva funksjonen gjorde

En "Create image"-knapp dukket opp i Google Earth på web. Etter å ha zoomet inn på et sted, kunne brukere trykke på knappen, skrive en tekst, og Nano Banana 2 returnerte et fotorealistisk bilde bygget på Googles satellitt-, fly- og 3D-bilder av akkurat det stedet . Google presenterte det som et kreativt geografiverktøy, men i praksis kunne hvem som helst fabrikkere geospatiale bevis i stor skala .

Hvorfor den ble fjernet

Falske bilder som brøt retningslinjene dukket opp umiddelbart. Brukere genererte overbevisende falske scener, inkludert et krater fra en eksplosjon i Los Angeles, en oversvømt Kongressbygning i USA, en brann på Irans Kharg-øy – og det som bekymret ekspertene mest: et fabrikkert bilde av et kjernekraftverk i Iran og russiske stridsvogner i Kyiv .

BBC Verify og OSINT-forskere demonstrerte risikoen offentlig. AI-forsker Henk van Ess og BBC Verify produserte fabrikkerte satellittscener av sensitive geopolitiske steder og viste hvor enkelt verktøyet kunne lage villedende bilder som så autentiske ut .

Google erkjente tillitsproblemet direkte. I tilbaketrekningserklæringen sa selskapet: "Vi vet at folk har en unik tillit til Google Earth som en pålitelig visning av verden. Vi har sett geospatiale fagfolk bruke denne funksjonen til en rekke nyttige formål," men at de "ruller tilbake denne funksjonen i Google Earth mens vi jobber med å implementere sterkere sikkerhetstiltak" .

OSINT-tillitskrisen

Satellittbilder har vært en gullstandard for open-source intelligence (OSINT), menneskerettighetsetterforskning og dokumentasjon av krigsforbrytelser. Eksperter advarte om at å integrere AI-generering direkte i Google Earth – den mest betrodde satellittkartplattformen – kunne fundamentalt undergrave troverdigheten til alle luftbilder som bevis .

Funksjonen visket ut grensen mellom ekte og falskt ved kilden. Fordi AI-bildene ble generert inne i Google Earth og knyttet til virkelige koordinater, fikk de en falsk glans av autentisitet som ville være mye vanskeligere å avkrefte enn et generisk AI-bilde delt på sosiale medier .

Menneskerettighetsetterforskere er avhengige av verifiserte satellittbilder for å dokumentere grusomheter, krigsskader og miljøkriminalitet. Hvis selv Google Earths egen produksjon kunne betviles, ville hele beviskjeden for åpne etterforskninger bli skadet, noe som gjør det lettere for ondsinnede aktører å avfeie ekte opptak som AI-genererte .

OSINT-miljøet beskrev hendelsen som en "tillitskrise" for digitale bevis. Den raske motstanden fra OSINT-fagfolk var en primær drivkraft bak Googles beslutning om å snu i løpet av timer .

Googles forsvar og dets begrensninger

Google påpekte at alle AI-genererte bilder var merket med SynthID, et digitalt vannmerke designet for å flagge AI-generert innhold . Imidlertid viste forskere at deteksjonsverktøy kunne lures, og at skjermbilder – den vanligste måten falske bilder sirkulerer på – fjerner all plattformspesifikk merking eller kontekst . Forsvaret var utilstrekkelig til å forhindre strømmen av overbevisende falsknerier som dukket opp i løpet av timer etter lansering.

Bredere implikasjoner

Hendelsen representerer en av de raskeste produktomvendelsene i Googles historie og et kasusstudium i farene ved å integrere generativ AI i betrodde informasjonsplattformer uten tilstrekkelige sikkerhetstiltak. For OSINT-miljøet var det en skarp påminnelse om at troverdigheten til satellittbilder – en hjørnestein i moderne digitale bevis – kunne erodere i løpet av en enkelt produktlansering .