Příklady zfalšovaných satelitních snímků

Výzkumníci a novináři rychle ukázali nebezpečí tím, že vytvořili přesvědčivé falešné scény, například:

• Íránské jaderné zařízení – snímky ukazující poškození nebo změny
• Uprchlíci na americko-mexické hranici – vytvořil nizozemský OSINT výzkumník Henk van Ess
• Letecká havárie v Amsterdamu
• Bombový kráter v Gaze
• Hořící íránský ostrov Kharg
• Zřícená Eiffelova věž
• Poškození Velké pyramidy v Gíze

Další falzifikáty zahrnovaly zatopený Kapitol USA, kráter po výbuchu v Los Angeles nebo davové protesty .

Co varovali výzkumníci

Henk van Ess, nizozemský výzkumník v oblasti OSINT, řekl deníku The Guardian, že nástroj „nic neodmítal“ – vytvořil uprchlíky na mexické hranici, jadernou elektrárnu v Íránu i scénu z nemocnice v Gaze bez jakéhokoli filtrování . Varoval, že tato funkce zásadně podkopala důvěryhodnost satelitních snímků, které jsou už roky klíčovým nástrojem pro investigativce a ověřovatele faktů .

Jake Godin z organizace Bellingcat řekl NPR, že nástroj by mohl „zásadně zničit důvěryhodnost satelitních snímků jako důkazu.“ Uvedl, že satelitní snímky byly historicky jedním z nejdůvěryhodnějších typů OSINT důkazů – a tento nástroj umožnil vytvářet přesvědčivé falzifikáty, jejichž vyvrácení by vyžadovalo značné úsilí .

Proč selhaly vodoznaky SynthID

Google do každého obrázku z Nano Banana 2 vložil digitální vodoznaky SynthID – jak viditelné popisky, tak neviditelná metadata. Společnost zpočátku doporučovala uživatelům ověřovat podezřelé snímky pomocí Gemini nebo Google Lens . Výzkumníci však odhalili několik zásadních nedostatků:

• Vodoznaky SynthID lze oříznout nebo odstranit jednoduchým snímkem obrazovky nebo opětovným uložením, čímž se neviditelná metadata ztratí
• Vodoznak pokrývá pouze části vytvořené AI, nikoli podkladové satelitní snímky, což umožnilo tvrdit, že jde o „reálná satelitní data“
• Některé zfalšované snímky prošly detekční kontrolou SynthID bez problémů, což znamená, že systém vodoznaků je nedokázal spolehlivě označit jako AI-generované

Server TechTimes popsal toto stažení jako „nejrychlejší výrazné zrušení AI produktu vyvolané konkrétním bezpečnostním selháním“ – záruka, kterou Google označil za svou primární ochranu, jednoduše nezabránila šíření falzifikátů .

Oficiální důvod stažení

Google uvedl, že funkci stáhl poté, co zaznamenal „lidi sdílející snímky obrazovky vygenerovaných obrázků, které zřejmě porušují naše zásady“ . Společnost prohlásila, že před případným znovuzpřístupněním nástroje přidá „silnější ochranná opatření“ . V prohlášení na síti X Google napsal: „Dezinformace bereme vážně – každý obrázek vytvořený pomocí Nano Banana v Google Earth obsahuje digitální vodoznak SynthID“ . Škoda však byla napáchána během několika hodin.

Proč je to důležité

Tento incident poukazuje na rostoucí výzvu pro technologické společnosti, které závodí v integraci generativní AI do produktů, jež uživatelé považují za důvěryhodné zdroje faktických informací. Satelitní snímky byly dlouho považovány za spolehlivý důkaz pro novináře, vyšetřovatele lidských práv a výzkumníky otevřených zdrojů. Tím, že bylo snadné vytvářet přesvědčivé falzifikáty, které zdědily důvěryhodnost značky Google Earth, se tento nástroj na krátkou dobu proměnil z důvěryhodné mapovací služby v potenciální motor dezinformací.

Google zatím neoznámil, kdy by mohl funkci znovu zpřístupnit.

Příklady zfalšovaných satelitních snímků

Výzkumníci a novináři rychle ukázali nebezpečí tím, že vytvořili přesvědčivé falešné scény, například:

• Íránské jaderné zařízení – snímky ukazující poškození nebo změny
• Uprchlíci na americko-mexické hranici – vytvořil nizozemský OSINT výzkumník Henk van Ess
• Letecká havárie v Amsterdamu
• Bombový kráter v Gaze
• Hořící íránský ostrov Kharg
• Zřícená Eiffelova věž
• Poškození Velké pyramidy v Gíze

Další falzifikáty zahrnovaly zatopený Kapitol USA, kráter po výbuchu v Los Angeles nebo davové protesty .

Co varovali výzkumníci

Henk van Ess, nizozemský výzkumník v oblasti OSINT, řekl deníku The Guardian, že nástroj „nic neodmítal“ – vytvořil uprchlíky na mexické hranici, jadernou elektrárnu v Íránu i scénu z nemocnice v Gaze bez jakéhokoli filtrování . Varoval, že tato funkce zásadně podkopala důvěryhodnost satelitních snímků, které jsou už roky klíčovým nástrojem pro investigativce a ověřovatele faktů .

Jake Godin z organizace Bellingcat řekl NPR, že nástroj by mohl „zásadně zničit důvěryhodnost satelitních snímků jako důkazu.“ Uvedl, že satelitní snímky byly historicky jedním z nejdůvěryhodnějších typů OSINT důkazů – a tento nástroj umožnil vytvářet přesvědčivé falzifikáty, jejichž vyvrácení by vyžadovalo značné úsilí .

Proč selhaly vodoznaky SynthID

Google do každého obrázku z Nano Banana 2 vložil digitální vodoznaky SynthID – jak viditelné popisky, tak neviditelná metadata. Společnost zpočátku doporučovala uživatelům ověřovat podezřelé snímky pomocí Gemini nebo Google Lens . Výzkumníci však odhalili několik zásadních nedostatků:

• Vodoznaky SynthID lze oříznout nebo odstranit jednoduchým snímkem obrazovky nebo opětovným uložením, čímž se neviditelná metadata ztratí
• Vodoznak pokrývá pouze části vytvořené AI, nikoli podkladové satelitní snímky, což umožnilo tvrdit, že jde o „reálná satelitní data“
• Některé zfalšované snímky prošly detekční kontrolou SynthID bez problémů, což znamená, že systém vodoznaků je nedokázal spolehlivě označit jako AI-generované

Server TechTimes popsal toto stažení jako „nejrychlejší výrazné zrušení AI produktu vyvolané konkrétním bezpečnostním selháním“ – záruka, kterou Google označil za svou primární ochranu, jednoduše nezabránila šíření falzifikátů .

Oficiální důvod stažení

Google uvedl, že funkci stáhl poté, co zaznamenal „lidi sdílející snímky obrazovky vygenerovaných obrázků, které zřejmě porušují naše zásady“ . Společnost prohlásila, že před případným znovuzpřístupněním nástroje přidá „silnější ochranná opatření“ . V prohlášení na síti X Google napsal: „Dezinformace bereme vážně – každý obrázek vytvořený pomocí Nano Banana v Google Earth obsahuje digitální vodoznak SynthID“ . Škoda však byla napáchána během několika hodin.

Proč je to důležité

Tento incident poukazuje na rostoucí výzvu pro technologické společnosti, které závodí v integraci generativní AI do produktů, jež uživatelé považují za důvěryhodné zdroje faktických informací. Satelitní snímky byly dlouho považovány za spolehlivý důkaz pro novináře, vyšetřovatele lidských práv a výzkumníky otevřených zdrojů. Tím, že bylo snadné vytvářet přesvědčivé falzifikáty, které zdědily důvěryhodnost značky Google Earth, se tento nástroj na krátkou dobu proměnil z důvěryhodné mapovací služby v potenciální motor dezinformací.

Google zatím neoznámil, kdy by mohl funkci znovu zpřístupnit.