Perché Google Earth ha ritirato la sua funzione AI in meno di un giorno

Nel giro di circa 24 ore, giornalisti e ricercatori hanno dimostrato quanto fosse semplice sfruttare questa funzione per creare disinformazione geospaziale. Il 31 luglio Google ha annunciato il rollback, cioè il ritiro temporaneo dello strumento, affermando di voler lavorare a “barriere di sicurezza più efficaci” .

Gli esempi di falsi creati durante i test

I test condotti da diverse redazioni e da specialisti di immagini satellitari hanno prodotto scenari facilmente confondibili con documentazione reale:

• BBC Verify ha generato una Torre Eiffel crollata, una voragine che inghiotte la piramide di Cheope e carri armati russi nelle strade di Kyiv .
• Matteo Wong di The Atlantic ha creato immagini di edifici in fiamme, distruzione su larga scala a San Francisco, un cratere fumante al posto della Torre Eiffel, un aereo diretto contro il One World Trade Center, un accampamento di senzatetto davanti alla Casa Bianca, proteste fuori da Mar-a-Lago, migranti al confine tra Stati Uniti e Messico e un Trump Hotel nella Striscia di Gaza .
• PC Gamer ha trasformato le città d’origine dei suoi giornalisti in zone di guerra usando semplici prompt .
• Henk van Ess, esperto di intelligenza artificiale e disinformazione, ha prodotto l’immagine di una centrale nucleare inesistente in Iran, di un campo profughi al confine tra Stati Uniti e Messico e di un falso ospedale a Gaza accanto a un cratere provocato da una bomba .
• NPR ha generato un’immagine dell’isola iraniana di Kharg che sembrava mostrare danni reali .
• Joseph Cox di 404 Media ha usato lo strumento per creare l’immagine di un’esplosione .

Questi esempi non dimostravano soltanto che il modello poteva generare immagini assurde. Mostravano soprattutto che poteva collocare eventi inventati su coordinate autentiche, con strade, rilievi e prospettive coerenti con il luogo rappresentato.

Perché il rischio era diverso da quello dei normali deepfake

Il problema segnalato dagli analisti OSINT — cioè dagli investigatori che raccolgono e verificano informazioni pubblicamente disponibili — non era la semplice capacità di generare un falso. Era il fatto che il falso venisse costruito sopra una base geografica considerata attendibile.

Henk van Ess ha spiegato a BBC Verify che lo strumento “saldava immagini inventate a coordinate autentiche, ricavate da immagini autentiche”. In questo modo, ha aggiunto, “la falsificazione non deve necessariamente sembrare convincente da sola: eredita la credibilità della mappa sulla quale è stata generata” .

Brady Africk, analista dell’American Enterprise Institute, ha osservato che i falsi erano “ancorati a immagini satellitari reali”, eliminando alcuni segnali tipici delle immagini AI, come incongruenze nel terreno e nella scala . Il rischio aumenta perché poche persone verificano l’origine di un’immagine prima di condividerla sui social .

Il giornalista investigativo Ben Heubl ha scritto che il tool poteva creare con facilità immagini di attacchi con droni molto simili a quelle già viste in Ucraina, Russia, Medio Oriente e in altre aree di conflitto . Henry Ajder, ricercatore specializzato nel rilevamento dei contenuti generati dall’AI, ha definito particolarmente destabilizzante il possibile uso di immagini false nelle crisi in rapido sviluppo: proprio quei contesti in cui giornalisti e osservatori sul campo hanno bisogno di fonti che si presumono non manipolate .

I controlli di Google non sono bastati

Google aveva indicato due principali forme di protezione. Ogni immagine generata avrebbe incluso un watermark digitale SynthID; gli utenti avrebbero potuto verificare l’eventuale uso dell’AI tramite l’app Gemini o Google Lens . Inoltre, il modello avrebbe dovuto bloccare la generazione di immagini relative a “temi dannosi” .

I test hanno però evidenziato diversi limiti:

• Il watermark non garantiva una verifica infallibile. BBC Verify ha rilevato che, pur funzionando generalmente, i controlli potevano essere aggirati e Gemini poteva essere indotto a classificare come autentiche immagini false create con Google Earth. Anche alcuni strumenti esterni di rilevamento dell’AI non hanno riconosciuto i contenuti generati .
• Bastavano piccole modifiche al prompt per superare i filtri. Una richiesta esplicita per creare una “piattaforma rialzata per impiccare i traditori” vicino al Parlamento veniva rifiutata, mentre una formulazione meno specifica veniva accettata .
• Il watermark funziona solo se qualcuno lo controlla. Un’immagine può essere scaricata, ricopiata e condivisa su altre piattaforme, dove il contrassegno può essere ignorato o rimosso .

In altre parole, la sicurezza era affidata in parte al comportamento dell’utente: chi vedeva l’immagine avrebbe dovuto fermarsi, sospettare della sua autenticità e sottoporla a una verifica. In un flusso continuo di contenuti online, spesso non accade.

La posta in gioco: la fiducia nelle immagini satellitari

Il caso Google Earth ha messo in luce una vulnerabilità più ampia. Per anni le immagini satellitari sono state utilizzate da giornalisti, investigatori di crimini di guerra e organizzazioni umanitarie per verificare conflitti, catastrofi e violazioni dei diritti umani.

Bill Greer, analista geospaziale e cofondatore di Common Space, ha dichiarato a BBC Verify che l’episodio può danneggiare in modo particolare la fiducia del pubblico perché le immagini satellitari sono state storicamente considerate una fonte di dati molto affidabile . Secondo Greer, le immagini satellitari falsificate sono già state impiegate per diffondere disinformazione; se l’accesso ai dati reali viene limitato dai governi, il risultato potrebbe essere “più immagini false e meno immagini reali”, con un ulteriore indebolimento della fiducia .

Ajder ha definito la funzione un altro spazio in cui le fonti considerate attendibili vengono erose dal dubbio costante che possa esserci l’intervento dell’AI . Il punto non è quindi soltanto riconoscere una singola immagine falsa: è il rischio che, alla lunga, il pubblico smetta di considerare affidabile anche il materiale autentico.

La spiegazione di Google

Nel comunicare il ritiro il 31 luglio 2026, Google ha riconosciuto sia gli utilizzi legittimi dello strumento sia la circolazione di immagini che sembravano violare le sue policy. L’azienda ha dichiarato:

“Abbiamo visto professionisti del settore geospaziale usare questa funzione per diversi scopi utili, ma abbiamo anche visto persone condividere schermate di immagini generate che sembrano violare le nostre policy. Sappiamo che le persone ripongono una fiducia particolare in Google Earth come rappresentazione affidabile del mondo. Stiamo ritirando questa funzione da Google Earth mentre lavoriamo all’implementazione di barriere di sicurezza più efficaci.”

Google non ha indicato quando la funzione potrebbe tornare né ha spiegato in dettaglio quali saranno le nuove protezioni. Per ora, il caso resta un esempio significativo di quanto rapidamente una funzione AI pensata per la creatività possa compromettere la fiducia in una piattaforma usata per orientarsi, informarsi e verificare ciò che accade nel mondo.