Esempi di immagini satellitari falsificate

Ricercatori e giornalisti hanno rapidamente dimostrato il pericolo generando scene satellitari false e convincenti, tra cui:

• Un impianto nucleare iraniano apparentemente danneggiato o alterato
• Rifugiati al confine tra Stati Uniti e Messico (creati dal ricercatore olandese di OSINT Henk van Ess)
• Un incidente aereo ad Amsterdam
• Un cratere di bomba a Gaza
• L'isola iraniana di Kharg in fiamme
• La Torre Eiffel crollata
• Danni alla Grande Piramide di Giza

Altri falsi includevano un Campidoglio degli Stati Uniti allagato, un cratere da esplosione a Los Angeles e una scena di protesta .

L'allarme dei ricercatori

Henk van Ess, un ricercatore olandese di open source intelligence, ha dichiarato al The Guardian che lo strumento "non rifiutava nulla" — ha generato rifugiati al confine messicano, un impianto nucleare in Iran e una scena di un ospedale di Gaza senza alcun filtro sui contenuti . Ha avvertito che la funzione minava fondamentalmente l'affidabilità delle immagini satellitari, che per anni sono state uno strumento cruciale per gli investigatori open source e i fact-checker .

Jake Godin di Bellingcat ha detto alla NPR che lo strumento avrebbe potuto "distruggere fondamentalmente la credibilità delle immagini satellitari come prove". Ha notato che le immagini satellitari sono state storicamente tra le prove di OSINT più affidabili, e questo strumento rendeva banale la creazione di falsi convincenti che avrebbero richiesto uno sforzo significativo per essere smascherati .

Perché le filigrane SynthID hanno fallito

Google aveva incorporato filigrane digitali SynthID — sia etichette visibili che metadati invisibili — in ogni immagine di Nano Banana 2. L'azienda inizialmente ha invitato gli utenti a controllare le immagini sospette utilizzando Gemini o Google Lens . Ma i ricercatori hanno scoperto diversi fallimenti critici:

• Le filigrane SynthID possono essere ritagliate o rimosse tramite un semplice screenshot o un nuovo salvataggio, eliminando i metadati invisibili
• La filigrana copre solo le porzioni generate dall'AI, non le immagini satellitari sottostanti, rendendo facile affermare che un'immagine fosse "dati satellitari reali"
• Alcune immagini falsificate sono passate completamente attraverso i controlli di rilevamento SynthID, il che significa che il sistema di filigrana non le ha segnalate in modo affidabile come generate dall'AI

Il TechTimes ha descritto il lancio come "il più rapido e significativo dietrofront di un prodotto AI guidato da uno specifico fallimento di sicurezza" — la barriera di protezione che Google aveva indicato come principale difesa semplicemente non ha impedito la circolazione dei falsi .

La spiegazione di Google per il ritiro

Google ha dichiarato di aver rimosso la funzione dopo aver visto "persone condividere screenshot di immagini generate che sembrano violare le nostre politiche" . L'azienda ha affermato che avrebbe "aggiunto barriere di protezione più forti" prima di considerare un nuovo rilascio dello strumento . In una dichiarazione su X, Google ha scritto: "Prendiamo la disinformazione molto sul serio — ogni immagine creata con Nano Banana in Google Earth include la filigrana digitale SynthID" . Ma il danno era già stato fatto nel giro di poche ore.

Perché la vicenda è importante

L'incidente evidenzia una sfida crescente per le aziende tecnologiche che si affrettano a integrare l'AI generativa in prodotti considerati affidabili per le informazioni fattuali. Le immagini satellitari sono state a lungo considerate una fonte di prova affidabile per giornalisti, investigatori per i diritti umani e ricercatori open source. Rendendo facile creare falsi convincenti che ereditano la credibilità del marchio Google Earth, la funzione Nano Banana 2 ha brevemente trasformato uno strumento di mappatura di fiducia in un potenziale motore di disinformazione.

Google non ha ancora annunciato una tempistica per il rilascio della funzione.

Esempi di immagini satellitari falsificate

Ricercatori e giornalisti hanno rapidamente dimostrato il pericolo generando scene satellitari false e convincenti, tra cui:

• Un impianto nucleare iraniano apparentemente danneggiato o alterato
• Rifugiati al confine tra Stati Uniti e Messico (creati dal ricercatore olandese di OSINT Henk van Ess)
• Un incidente aereo ad Amsterdam
• Un cratere di bomba a Gaza
• L'isola iraniana di Kharg in fiamme
• La Torre Eiffel crollata
• Danni alla Grande Piramide di Giza

Altri falsi includevano un Campidoglio degli Stati Uniti allagato, un cratere da esplosione a Los Angeles e una scena di protesta .

L'allarme dei ricercatori

Henk van Ess, un ricercatore olandese di open source intelligence, ha dichiarato al The Guardian che lo strumento "non rifiutava nulla" — ha generato rifugiati al confine messicano, un impianto nucleare in Iran e una scena di un ospedale di Gaza senza alcun filtro sui contenuti . Ha avvertito che la funzione minava fondamentalmente l'affidabilità delle immagini satellitari, che per anni sono state uno strumento cruciale per gli investigatori open source e i fact-checker .

Jake Godin di Bellingcat ha detto alla NPR che lo strumento avrebbe potuto "distruggere fondamentalmente la credibilità delle immagini satellitari come prove". Ha notato che le immagini satellitari sono state storicamente tra le prove di OSINT più affidabili, e questo strumento rendeva banale la creazione di falsi convincenti che avrebbero richiesto uno sforzo significativo per essere smascherati .

Perché le filigrane SynthID hanno fallito

Google aveva incorporato filigrane digitali SynthID — sia etichette visibili che metadati invisibili — in ogni immagine di Nano Banana 2. L'azienda inizialmente ha invitato gli utenti a controllare le immagini sospette utilizzando Gemini o Google Lens . Ma i ricercatori hanno scoperto diversi fallimenti critici:

• Le filigrane SynthID possono essere ritagliate o rimosse tramite un semplice screenshot o un nuovo salvataggio, eliminando i metadati invisibili
• La filigrana copre solo le porzioni generate dall'AI, non le immagini satellitari sottostanti, rendendo facile affermare che un'immagine fosse "dati satellitari reali"
• Alcune immagini falsificate sono passate completamente attraverso i controlli di rilevamento SynthID, il che significa che il sistema di filigrana non le ha segnalate in modo affidabile come generate dall'AI

Il TechTimes ha descritto il lancio come "il più rapido e significativo dietrofront di un prodotto AI guidato da uno specifico fallimento di sicurezza" — la barriera di protezione che Google aveva indicato come principale difesa semplicemente non ha impedito la circolazione dei falsi .

La spiegazione di Google per il ritiro

Google ha dichiarato di aver rimosso la funzione dopo aver visto "persone condividere screenshot di immagini generate che sembrano violare le nostre politiche" . L'azienda ha affermato che avrebbe "aggiunto barriere di protezione più forti" prima di considerare un nuovo rilascio dello strumento . In una dichiarazione su X, Google ha scritto: "Prendiamo la disinformazione molto sul serio — ogni immagine creata con Nano Banana in Google Earth include la filigrana digitale SynthID" . Ma il danno era già stato fatto nel giro di poche ore.

Perché la vicenda è importante

L'incidente evidenzia una sfida crescente per le aziende tecnologiche che si affrettano a integrare l'AI generativa in prodotti considerati affidabili per le informazioni fattuali. Le immagini satellitari sono state a lungo considerate una fonte di prova affidabile per giornalisti, investigatori per i diritti umani e ricercatori open source. Rendendo facile creare falsi convincenti che ereditano la credibilità del marchio Google Earth, la funzione Nano Banana 2 ha brevemente trasformato uno strumento di mappatura di fiducia in un potenziale motore di disinformazione.

Google non ha ancora annunciato una tempistica per il rilascio della funzione.