Waarom Google de nieuwe AI-functie van Google Earth binnen 24 uur terugdraaide

Google presenteerde de functie als een hulpmiddel om bijvoorbeeld historische situaties te visualiseren of vastgoedplannen te maken. Maar dezelfde technologie kon ook worden gebruikt om een bombardement, een ramp of militaire aanwezigheid op een echte locatie te veinzen.

Wat onderzoekers ermee maakten

Journalisten en onderzoekers testten de functie vrijwel direct. Hun experimenten lieten zien hoe eenvoudig overtuigende geodata-desinformatie kon worden gemaakt:

• BBC Verify genereerde een ingestorte Eiffeltoren, een zinkgat dat de piramides van Gizeh opslokt en Russische tanks in Kyiv .
• The Atlantic maakte onder meer beelden van brandende kantoorgebouwen, grote verwoestingen in San Francisco, een rokende krater op de plek van de Eiffeltoren, een vliegtuig dat One World Trade Center raakt en een vluchtelingenstroom aan de grens tussen de Verenigde Staten en Mexico .
• PC Gamer veranderde woonplaatsen van redacteuren met AI-prompts in oorlogsgebieden .
• Henk van Ess, onderzoeker op het gebied van AI en desinformatie, creëerde onder meer een niet-bestaande kerncentrale in Iran, een vluchtelingenkamp aan de Amerikaans-Mexicaanse grens en een nepziekenhuis in Gaza met een bomkrater ernaast .
• NPR maakte een beeld waarop het Iraanse eiland Kharg beschadigd leek .
• Joseph Cox van 404 Media gebruikte de functie om een explosie te creëren .

De voorbeelden waren niet bedoeld als echt nieuws, maar toonden wel hoe geloofwaardig zulke beelden buiten hun oorspronkelijke context konden lijken.

Waarom deze deepfakes extra riskant waren

Het grootste probleem was volgens experts niet alleen dat de beelden door AI waren gemaakt. De beelden werden gekoppeld aan echte geografische coördinaten en echte satellietkaarten. Daardoor kregen ze automatisch een geloofwaardigheid die een gewone AI-afbeelding mist.

OSINT-onderzoekers — specialisten in open-source intelligence, oftewel het controleren van informatie met publiek beschikbare bronnen — gebruiken satellietbeelden om oorlogen, natuurrampen en mensenrechtenschendingen te onderzoeken.

Henk van Ess zei tegen BBC Verify dat de functie “verzonnen beelden aan echte coördinaten smeedde, getekend op echte beelden”. Volgens hem hoeft de vervalsing daardoor niet op zichzelf overtuigend te zijn: “Ze erft de geloofwaardigheid van de kaart waarop ze is ontstaan” .

Brady Africk, onderzoeksanalist bij het American Enterprise Institute, wees erop dat de nepbeelden waren verankerd in echte satellietbeelden. Daardoor verdwenen enkele typische signalen van AI-beelden, zoals een verkeerde schaal of een terrein dat niet klopt . Ook worden afbeeldingen volgens Africk vaak gedeeld zonder dat gebruikers controleren of ze door AI zijn gemaakt .

Onderzoeksjournalist Ben Heubl waarschuwde dat de functie gemakkelijk beelden van droneaanvallen kon opleveren die sterk leken op wat in Oekraïne, Rusland en het Midden-Oosten te zien is . AI-onderzoeker Henry Ajder noemde vooral het gebruik in snel escalerende conflictgebieden “ontwrichtend”. Juist bronnen die tot nu toe als vrij van AI-manipulatie werden beschouwd, zijn daar belangrijk voor journalisten en mensen die aan de frontlinies werken .

Welke beveiliging had Google ingebouwd?

Google zei dat er twee belangrijke waarborgen waren:

1. Elke gegenereerde afbeelding zou een digitale SynthID-watermarkering bevatten. Gebruikers konden via de Gemini-app of Google Lens controleren of een beeld door AI was gemaakt .
2. Richtlijnen in het AI-model moesten voorkomen dat beelden over “schadelijke onderwerpen” werden gegenereerd .

In de praktijk bleken die maatregelen niet afdoende.

BBC Verify ontdekte dat de SynthID-controle doorgaans werkte, maar dat de controles konden worden omzeild. Gemini kon ertoe worden gebracht om een nepbeeld uit Google Earth als echt te beoordelen. Ook externe detectietools herkenden de gegenereerde beelden niet altijd .

Daarnaast konden kleine wijzigingen in een prompt de inhoudsfilters omzeilen. Een verzoek om bij het parlement een “verhoogd platform om verraders op te hangen” te maken werd geweigerd, terwijl een minder specifieke formulering wel werd geaccepteerd .

En een watermarkering helpt alleen als iemand daadwerkelijk controleert. Zodra een afbeelding wordt gedownload en op een ander platform wordt gedeeld, kan de markering worden verwijderd, genegeerd of simpelweg over het hoofd worden gezien .

Een groter probleem voor vertrouwen in satellietbeelden

De terugtrekking ging daarom over meer dan één slecht afgeschermde productfunctie. Satellietbeelden gelden al jaren als een relatief betrouwbare bron voor journalistiek onderzoek, oorlogsanalyses en humanitaire documentatie. Als AI-vervalsingen op echte kaarten kunnen worden gebouwd, ontstaat twijfel over beelden die er eerder overtuigend uitzagen.

Bill Greer, geospatiaal analist en medeoprichter van Common Space, zei tegen BBC Verify dat dit het publieke vertrouwen extra kan schaden, omdat satellietbeelden historisch als bijzonder betrouwbare gegevensbron werden gezien . Hij waarschuwde bovendien dat overheden de toegang tot gegevens soms beperken. Dat kan leiden tot meer valse beelden én minder echte beelden om die mee te vergelijken, waardoor het vertrouwen verder afneemt .

Henry Ajder omschreef de ontwikkeling als een nieuwe aantasting van bronnen die als betrouwbaar golden: telkens wanneer mensen zich moeten afvragen of AI ergens tussen zit, wordt het moeilijker om informatie snel te verifiëren .

Wat zei Google over de terugtrekking?

Google kondigde op 31 juli via X aan dat het de functie terugdraaide. Het bedrijf schreef:

“We hebben gezien dat geospatiale professionals deze functie voor allerlei nuttige doeleinden gebruikten. We hebben echter ook gezien dat mensen screenshots van gegenereerde beelden deelden die ons beleid lijken te schenden. We weten dat mensen Google Earth bij uitstek vertrouwen voor een betrouwbaar beeld van de wereld. Daarom draaien we deze functie in Google Earth terug terwijl we werken aan sterkere veiligheidsmaatregelen.”

Google maakte niet bekend wanneer de functie eventueel terugkomt of hoe de nieuwe veiligheidsmaatregelen eruit zullen zien. De korte levensduur van de tool vormt daarmee een duidelijke waarschuwing: zodra AI-vervalsing direct wordt verbonden aan een bron die mensen als ‘de werkelijkheid’ beschouwen, kan het vertrouwen in die bron sneller verdwijnen dan het kan worden hersteld.