Google uttalte at verktøyet var ment å «visualisere historie, lage eiendomsplaner og mer» . En bruker kunne zoome inn på et sted, skrive en tekstmelding, og Nano Banana 2 returnerte et fotorealistisk bilde bygget fra Googles satellitt-, fly- og 3D-data for akkurat det stedet . De genererte bildene dukket ikke opp i hovedopplevelsen av Google Earth for andre brukere, og Google opplyste at de hadde usynlige vannmerker som kunne oppdages via Gemini eller Google Lens .
Innen få timer etter lanseringen begynte sikkerhetsforskere og journalister å vise hvorfor verktøyet var farlig.
Henk van Ess fra Digital Digging genererte fabrikkerte satellittbilder som viste flyktninger ved USAs grense mot Mexico og bombekratre nær et sykehus i Gaza – scener som uten kontekst så ut som ekte satellittbevis . BBC Verify skapte bilder av et kollapset Eiffeltårn, et synkehull som svelget Keopspyramiden, og russiske stridsvogner i Kyiv . Andre brukere genererte forfalskninger av eksplosjoner, atomanlegg og militærbaser forankret til virkelige geografiske koordinater .
Som en forsker uttrykte det: Verktøyet gjorde det trivielt enkelt å skape «deepfakes av den virkelige verden» .
Svekkelse av tilliten til satellittbilder: Journalister, OSINT-analytikere og humanitære forskere sa at funksjonen truet den grunnleggende troverdigheten til satellittbilder, som rutinemessig brukes til å verifisere krigsforbrytelser, katastrofer og menneskerettighetsbrudd . Flere kommentatorer påpekte at Google Earth lenge har blitt behandlet som autoritativ sannhet, og at det å bygge inn generativ AI direkte i grensesnittet skapte en farlig «hva er ekte lenger?»-dynamikk .
Utilstrekkelige sikkerhetstiltak: Google sa AI-bildene hadde usynlige vannmerker, men BBC Verify fant at disse sikkerhetstiltakene lett kunne omgås og at tredjeparts deteksjonsverktøy ikke pålitelig kunne flagge forfalskningene . Kritikere argumenterte for at når et vannmerke ble sjekket, kunne bildet allerede ha spredt seg viralt på sosiale medier, strippet for metadata .
Risiko for geografisk feilinformasjon: Verktøyet tillot brukere å plassere fabrikkerte hendelser – bombekratre, flyktningleirer, militærbaser – på virkelige koordinater, noe som fikk forfalskningene til å se ut som troverdige satellittbevis . Flere medier advarte om at dette kunne tenne på virkelige konflikter og desinformasjonskampanjer .
«Vi vet at folk har en unik tillit til Google Earth for et pålitelig syn på verden. Vi har sett geografiske fagfolk bruke denne funksjonen til en rekke nyttige formål, men vi har også sett folk dele skjermbilder av genererte bilder som ser ut til å bryte retningslinjene våre. Så vi trekker tilbake denne funksjonen i Google Earth mens vi jobber med å implementere sterkere sikkerhetstiltak.»
Selskapet kunngjorde ingen tidsramme for funksjonens retur .