Googles AI-billedgenerator i Google Earth varede under et døgn – her er hvorfor OSINT-eksperter kaldte det en tillidskrise

Hvad funktionen gjorde

En knap med teksten "Opret billede" dukkede op i Google Earth på nettet. Når man zoome ind på en hvilken som helst placering, kunne man trykke på knappen, skrive en prompt, og Nano Banana 2 returnerede et fotorealistisk billede bygget på Googles satellit-, luft- og 3D-billeder af netop det sted . Google præsenterede det som et kreativt geografiværktøj, men i realiteten lod det enhver fabrikere geospatiale beviser i stor skala .

Hvorfor den blev trukket tilbage

Policy-overtrædende forfalskninger dukkede op med det samme. Brugere genererede overbevisende falske scener, herunder et bombekrater i Los Angeles, en oversvømmet kongresbygning i USA, en brand på Irans Kharg-ø, og – mest bekymrende for eksperter – et fabrikeret billede af et atomkraftværk i Iran og russiske kampvogne, der ruller gennem Kyiv .

BBC Verify og OSINT-forskere demonstrerede offentligt risikoen. AI-forsker Henk van Ess og BBC Verify producerede fabrikerede satellitscener af følsomme geopolitiske steder og viste, hvor nemt værktøjet kunne generere vildledende billeder, der fremstod ægte .

Google anerkendte direkte tillidsproblemet. I deres tilbagetrækningserklæring sagde virksomheden: "Vi ved, at folk har en unik tillid til Google Earth som et pålideligt billede af verden. Vi har set geografiske fagfolk bruge denne funktion til en række nyttige formål," men at man "ruller denne funktion tilbage i Google Earth, mens vi arbejder på at implementere stærkere sikkerhedsforanstaltninger" .

OSINT-tillidskrisen

Satellitbilleder har været en guldstandard for open-source intelligence (OSINT), menneskerettighedsundersøgelser og dokumentation af krigsforbrydelser. Eksperter advarede om, at indlejring af AI-generering direkte i Google Earth – den mest betroede satellitkortplatform – kunne underminere troværdigheden af alle luftbilleder som beviser .

Funktionen slørede grænsen mellem ægte og falsk ved kilden. Fordi AI-billederne blev genereret inde i Google Earth og knyttet til virkelige koordinater, bar de en falsk glans af autenticitet, der ville være meget sværere at afsløre end et generisk AI-billede delt på sociale medier .

Menneskerettighedsundersøgere er afhængige af verificerede satellitbilleder til at dokumentere grusomheder, krigsskader og miljøforbrydelser. Hvis selv Googles eget output kunne drages i tvivl, ville hele beviskæden for open-source-undersøgelser blive beskadiget, hvilket ville gøre det lettere for ondsindede aktører at afvise ægte optagelser som AI-genererede .

OSINT-miljøet beskrev hændelsen som en "tillidskrise" for digitale beviser. Den hurtige modreaktion fra OSINT-professionelle var en primær drivkraft for Googles beslutning om at vende kursen inden for få timer .

Googles forsvar og dets begrænsninger

Google påpegede, at alle AI-genererede billeder var forsynet med SynthID, et digitalt vandmærke designet til at markere AI-genereret indhold . Forskerne demonstrerede imidlertid, at detektionsværktøjer kunne narres, og at skærmbilleder – den mest almindelige måde, falske billeder cirkulerer på – fjerner al platformens vandmærkning og kontekst . Forsvaret var utilstrækkeligt til at forhindre strømmen af overbevisende forfalskninger, der dukkede op inden for få timer efter lanceringen.

Bredere implikationer

Hændelsen er en af de hurtigste produkt-tilbagetrækninger i Googles historie og et casestudie i farerne ved at indlejre generativ AI i betroede informationsplatforme uden tilstrækkelige sikkerhedsforanstaltninger. For OSINT-miljøet var det en skarp advarsel om, at troværdigheden af satellitbilleder – en hjørnesten i moderne digitale beviser – kunne eroderes i en enkelt produktlancering .