Krize důvěry v satelitní snímky: Google spustil AI generátor obrázků v Google Earth a do 24 hodin jej musel stáhnout

Co funkce umožňovala

Tlačítko „Vytvořit obrázek“ („Create image“) se objevilo v Google Earth na webu. Po přiblížení na libovolné místo na mapě stačilo na tlačítko klepnout, napsat příkaz a model Nano Banana 2 vrátil fotorealistický snímek postavený na Google satelitních, leteckých a 3D datech z daného místa . Google to prezentoval jako kreativní geografický nástroj, ale ve skutečnosti to komukoli umožnilo ve velkém měřítku vyrábět padělané geoprostorové důkazy .

Proč byla funkce stažena

Padělky porušující pravidla se objevily okamžitě. Uživatelé vytvořili přesvědčivé falešné scény – výbuch v Los Angeles, zaplavený americký Kapitol, požár na íránském ostrově Chárk a pro odborníky nejvíce alarmující: padělaný snímek jaderné elektrárny v Íránu a ruské tanky projíždějící Kyjevem .

BBC Verify a výzkumníci v oblasti OSINT veřejně demonstrovali riziko. Výzkumník Henk van Ess společně s BBC Verify vytvořili padělané satelitní snímky citlivých geopolitických lokalit a ukázali, jak snadno lze nástrojem generovat zavádějící snímky, které vypadají autenticky .

Google problém s důvěrou přímo přiznal. Ve svém prohlášení o stažení funkce společnost uvedla: „Víme, že lidé Google Earth mimořádně důvěřují jako spolehlivému pohledu na svět. Viděli jsme, že geoprostoroví profesionálové tuto funkci využívají k řadě užitečných účelů. Zároveň jsme ale také zaznamenali, že lidé sdílejí screenshoty generovaných snímků, které zřejmě porušují naše zásady. Proto tuto funkci v Google Earth stahujeme, dokud nezavedeme silnější bezpečnostní zábrany.“

Krize důvěry v otevřené zpravodajství (OSINT)

Satelitní snímky byly po dlouhou dobu zlatým standardem pro otevřené zpravodajství (OSINT), vyšetřování lidských práv a dokumentaci válečných zločinů. Odborníci varovali, že integrace AI generování přímo do Google Earth – nejdůvěryhodnější satelitní mapové platformy – může zásadně podkopat důvěryhodnost všech leteckých snímků jako důkazního materiálu .

Funkce rozmazala hranici mezi skutečným a falešným přímo u zdroje. Protože AI obrázky byly generovány v samotném Google Earth a spojeny s reálnými souřadnicemi, nesly falešný punc autenticity, který by bylo mnohem těžší vyvrátit než běžný AI obrázek sdílený na sociálních sítích .

Vyšetřovatelé lidských práv spoléhají na ověřené satelitní snímky při dokumentaci zvěrstev, škod způsobených konflikty a environmentálních trestných činů. Pokud by bylo možné zpochybnit i samotný výstup z Google Earth, celý důkazní řetězec otevřených vyšetřování by byl narušen. Bylo by tak mnohem snazší, aby špatní herci označili skutečné záběry za AI-generované .

Komunita OSINT označila incident za „krizi důvěry“ v digitální důkazy. Rychlá zpětná vazba od odborníků na OSINT byla hlavním důvodem, proč Google během několika hodin změnil kurz .

Obrana Googlu a její limity

Google poukázal na to, že všechny AI-generované obrázky byly opatřeny digitálním vodoznakem SynthID, který měl označovat obsah vytvořený AI . Výzkumníci však ukázali, že detekční nástroje lze oklamat a že screenshoty – nejčastější způsob, jakým se falešné snímky šíří – jakýkoli vodoznak nebo kontext na úrovni platformy zcela odstraní . Obrana byla nedostatečná k zastavení záplavy přesvědčivých padělků, které se objevily během několika hodin po spuštění.

Širší dopady

Incident představuje jedno z nejrychlejších stažení produktu v historii Googlu a případovou studii nebezpečí implementace generativní AI do důvěryhodných informačních platforem bez adekvátních bezpečnostních zábran. Pro komunitu OSINT to bylo ostré varování, že důvěryhodnost satelitních snímků – základního kamene moderních digitálních důkazů – může být narušena během jediného spuštění produktu .