Hvorfor Google fjernede sin AI-funktion fra Google Earth på under et døgn

Mindre end et døgn senere havde journalister og forskere demonstreret, at det samme værktøj kunne bruges til at fremstille overbevisende, men falske billeder af krig, katastrofer og politiske hændelser. Den 31. juli meddelte Google, at funktionen blev rullet tilbage, mens selskabet arbejdede på "stærkere sikkerhedsforanstaltninger" .

Sådan fungerede funktionen

Brugeren kunne zoome ind på et sted i Google Earth, vælge "Create image" og skrive, hvad der skulle vises. Modellen genererede derefter et fotorealistisk motiv, der var forankret i den valgte placering og bygget oven på Googles eksisterende kort- og billeddata .

Det var netop koblingen til den virkelige geografi, der gjorde funktionen kontroversiel. Et almindeligt AI-billede af en eksplosion kan være svært at placere. Et billede af en eksplosion ved en bestemt bygning, på en bestemt gade og med terrænet fra et rigtigt satellitkort i baggrunden kan derimod fremstå som dokumentation for, at hændelsen faktisk har fundet sted.

De falske billeder, der satte alarmklokkerne i gang

Flere medier og efterforskere testede straks, hvor langt værktøjet kunne presses:

• BBC Verify skabte et sammenstyrtet Eiffeltårn, en stor slugt, der opslugte pyramiden i Giza, samt russiske kampvogne på vej gennem Kyiv .
• The Atlantics journalist Matteo Wong genererede blandt andet brændende kontorbygninger, omfattende ødelæggelser i San Francisco, et rygende krater dér, hvor Eiffeltårnet stod, et fly, der ramte One World Trade Center, en hjemløslejr på plænen foran Det Hvide Hus, demonstranter uden for Mar-a-Lago, migranter ved grænsen mellem USA og Mexico og et Trump-hotel på Gazastriben .
• PC Gamers journalister forvandlede deres hjembyer til krigszoner ved hjælp af tekstprompter .
• Henk van Ess, der arbejder med AI og misinformation, skabte blandt andet et ikke-eksisterende atomkraftværk i Iran, en flygtningelejr ved grænsen mellem USA og Mexico og et falsk hospital i Gaza med et bombekrater ved siden af .
• NPR genererede et billede, der tilsyneladende viste skader på Irans Kharg-ø .
• 404 Medias Joseph Cox brugte værktøjet til at skabe et billede af en eksplosion .

Eksemplerne var ikke nødvendigvis tænkt som forsøg på at bedrage offentligheden. Men de viste, hvor let andre kunne bruge samme metode til at lave materiale, der blev delt som ægte dokumentation.

Hvorfor værktøjet blev vurderet som særligt farligt

Open source-efterforskere – ofte omtalt som OSINT-analytikere – bruger offentligt tilgængelige satellitbilleder, videoer og kort til at undersøge krige, naturkatastrofer og mulige krigsforbrydelser. For dem var problemet, at Google Earth-funktionen ikke blot skabte generiske deepfakes.

Den placerede opdigtede hændelser på ægte koordinater og lod dem indgå i en visuel ramme, som mange i forvejen forbinder med verificerbare oplysninger.

Henk van Ess sagde til BBC Verify, at værktøjet "smed opdigtede billeder sammen med ægte koordinater, tegnet på ægte billeddata". Ifølge ham behøvede forfalskningen derfor ikke i sig selv at se overbevisende ud – den kunne arve troværdigheden fra det kort, den var født på .

Brady Africk, researchanalytiker ved American Enterprise Institute, bemærkede, at billederne var "forankret i ægte satellitbilleder". Det fjernede nogle af de typiske afsløringer af AI-billeder, eksempelvis fejl i terræn og størrelsesforhold . Han pegede samtidig på, at de færreste undersøger, om et billede er AI-genereret, før de scroller videre eller deler det .

Efterforskningsjournalisten Ben Heubl skrev, at værktøjet let kunne skabe billeder af droneangreb, der lignede det, man har set i Ukraine, Rusland, Mellemøsten og andre konfliktområder . AI-forskeren Henry Ajder advarede om, at falske billeder kan være særligt destabiliserende i hurtigt udviklende konflikter, hvor journalister og andre aktører er afhængige af, at bestemte informationskilder fortsat er fri for AI-manipulation .

Googles sikkerhedsforanstaltninger holdt ikke hele vejen

Google fremhævede især to værn mod misbrug. For det første skulle alle billeder, der blev skabt med funktionen, indeholde et digitalt SynthID-vandmærke. Brugere kunne også spørge Gemini eller bruge Google Lens til at undersøge, om et billede var AI-genereret .

For det andet skulle indbyggede retningslinjer i modellen forhindre billedskabelse om såkaldte "skadelige emner" .

Testene viste dog flere svagheder:

• BBC Verify fandt, at SynthID-vandmærket som regel virkede, men at det var muligt at omgå kontrollerne og få Gemini til at hævde, at falske Google Earth-billeder var ægte. Eksterne AI-detektorer kunne også i nogle tilfælde ikke genkende indholdet som Google Earth-genereret .
• Små ændringer i en prompt kunne omgå indholdsreglerne. En anmodning om en "hævet platform til at hænge forrædere" nær parlamentet blev afvist, mens en mindre specifik formulering blev accepteret .
• Et vandmærke hjælper kun, hvis nogen undersøger det. Billeder kan downloades og deles på andre platforme, hvor vandmærket let kan blive fjernet, overset eller ignoreret .

Dermed blev ansvaret i praksis lagt over på den enkelte bruger – ofte efter at et billede allerede var blevet delt og taget ud af sin oprindelige sammenhæng.

En større trussel mod tilliden til satellitbilleder

Sagen handlede derfor ikke kun om én mislykket produktlancering. Den satte fokus på en bredere udfordring: Satellitbilleder har i årtier været blandt de kilder, som journalister, forskere og humanitære organisationer har betragtet som relativt stærke beviser for, hvad der sker på jorden.

Hvis det bliver let at lægge fotorealistiske, falske hændelser oven på ægte kort, kan tvivlen sprede sig langt ud over de enkelte forfalskninger. Selv ægte billeder kan mødes med påstanden om, at de måske også er AI-genererede.

Bill Greer, geospatial analytiker og medstifter af Common Space, sagde til BBC Verify, at episoden potentielt er særligt skadelig for den offentlige tillid, fordi satellitbilleder historisk er blevet opfattet som en særlig troværdig datakilde . Han pegede på, at manipulerede satellitbilleder allerede er blevet brugt til misinformation. Hvis regeringer samtidig begrænser adgangen til data, kan resultatet blive flere falske billeder og færre ægte billeder – hvilket yderligere kan udhule tilliden .

Henry Ajder beskrev funktionen som endnu et område, hvor kilder til pålidelig information risikerer at blive svækket af den konstante tvivl om, hvorvidt AI har været involveret .

Googles forklaring på tilbagerulningen

I en erklæring offentliggjort på X den 31. juli skrev Google:

"Vi har set geospatiale fagfolk bruge funktionen til en række nyttige formål. Men vi har også set personer dele skærmbilleder af genererede billeder, som ser ud til at være i strid med vores politikker. Vi ved, at folk har en særlig tillid til Google Earth som et pålideligt billede af verden. Derfor ruller vi funktionen tilbage i Google Earth, mens vi arbejder på at indføre stærkere sikkerhedsforanstaltninger."

Google har ikke oplyst, hvornår funktionen eventuelt vender tilbage, eller præcis hvilke nye sikkerhedsforanstaltninger der skal være på plads. Forløbet står derfor som et markant eksempel på, hvor hurtigt en AI-funktion kan svække tilliden til en platform, som journalister, efterforskere og offentligheden bruger som reference for virkeligheden.