Google Earth stáhl AI funkci za méně než 24 hodin. Ohrožovala důvěru v satelitní snímky

Jak funkce fungovala

Uživatel ve webové verzi Google Earth přiblížil libovolné místo na Zemi, zvolil možnost „Create image“ a zadal textový pokyn. Nano Banana 2 pak vytvořil fotorealistickou scénu zasazenou do reálného geografického prostředí .

Google funkci prezentoval jako nástroj pro vizualizaci historie, plánování nemovitostí a další kreativní využití . Problém spočíval v tom, že mezi „historickou scénou“ a simulovaným bombardováním nebyla z technického hlediska velká překážka.

Co testující dokázali vytvořit

Výzkumníci a redakce začali limity nástroje prověřovat téměř okamžitě:

• BBC Verify vytvořila zřícenou Eiffelovu věž, obří propadlinu pohlcující Velkou pyramidu v Gíze a ruské tanky projíždějící Kyjevem .
• The Atlantic vytvořil snímky hořících kancelářských budov, rozsáhlého ničení v San Francisku, doutnajícího kráteru na místě Eiffelovy věže, letadla narážejícího do One World Trade Center nebo tábora lidí bez domova na trávníku před Bílým domem .
• PC Gamer pomocí textových pokynů proměnil rodná města svých redaktorů ve válečné zóny .
• Henk van Ess, odborník na AI a dezinformace, vytvořil falešnou jadernou elektrárnu v Íránu, uprchlický tábor u americko-mexické hranice a nemocnici v Gaze s kráterem po explozi .
• NPR vygenerovala snímek íránského ostrova Chárk, který mohl na první pohled působit jako důkaz poškození .
• Joseph Cox z 404 Media vytvořil obrázek exploze .

Nešlo tedy jen o abstraktní ilustrace. Výsledky byly zasazené do skutečných míst a mohly vypadat jako dokumentární letecké nebo satelitní záběry.

Proč byly geolokační deepfaky tak nebezpečné

Satelitní snímky používají novináři, analytici otevřených zdrojů (OSINT) i organizace dokumentující války, přírodní katastrofy a porušování lidských práv. Dosavadní problém s AI podvrhy často spočíval v nesouladu terénu, měřítka nebo perspektivy. Google Earth však generoval falešný obsah na skutečných souřadnicích a nad reálným mapovým podkladem.

Henk van Ess BBC Verify řekl, že nástroj „spojil vymyšlený obraz se skutečnými souřadnicemi a skutečným podkladem“. Podle něj padělek nemusí být sám o sobě dokonale přesvědčivý — „přebírá důvěryhodnost mapy, na které vznikl“ .

Brady Africk, analytik z American Enterprise Institute, upozornil, že podvrhy byly „ukotvené ve skutečných satelitních snímcích“. Tím mizely některé typické známky generovaného obrazu, například nesrovnalosti v terénu a měřítku . Zároveň připomněl, že jen málokdo při rychlém procházení sociálních sítí ověřuje, zda je obrázek vytvořený AI, než ho nasdílí .

Investigativní reportér Ben Heubl napsal, že nástroj dokázal snadno vytvářet záběry útoků dronů podobné tomu, co svět vídá z Ukrajiny, Ruska nebo Blízkého východu . Výzkumník detekce AI Henry Ajder varoval, že v rychle se vyvíjejících konfliktech může takový obsah působit destabilizačně. Právě prostředí, o němž se předpokládá, že není „kontaminované“ AI, je podle něj důležité pro novináře a lidi pracující přímo v krizových oblastech .

Ochrany existovaly, ale nestačily

Google uváděl dvě hlavní pojistky. Každý obrázek vytvořený tímto nástrojem měl obsahovat digitální vodoznak SynthID. Uživatelé si navíc mohli ověřit původ snímku pomocí aplikace Gemini nebo nástroje Google Lens . Model měl také pravidla, která měla bránit generování obsahu týkajícího se „škodlivých témat“ .

Testy ale odhalily několik slabin:

• Vodoznak nebyl všespásný. BBC Verify zjistila, že kontrolu bylo možné obejít a Gemini přimět k označení falešného snímku z Google Earth za skutečný. Chybovaly někdy i externí nástroje pro detekci AI .
• Pravidla šlo obejít změnou formulace. Požadavek na „vyvýšenou plošinu k oběšení zrádců“ poblíž parlamentu byl odmítnut, méně konkrétní zadání však prošlo .
• Vodoznak funguje jen tehdy, když ho někdo hledá. Stažený obrázek lze dále sdílet na platformách, kde je vodoznak snadno přehlédnutelný nebo se při zpracování odstraní .

Odpovědnost tak do značné míry zůstávala na uživateli — tedy na člověku, který nemusí vědět, že obrázek vznikl v Google Earth, ani mít důvod jeho pravost ověřovat.

Co to znamená pro důvěru v satelitní snímky

Případ odhalil širší problém než jen nedostatečné filtrování jednoho produktu. Satelitní imagery byla po desetiletí považována za jeden z důvěryhodnějších typů důkazů v žurnalistice, při vyšetřování válečných zločinů i v humanitární práci. Pokud lze falešnou scénu zasadit do skutečných souřadnic a opatřit ji realistickým terénem, samotný mapový kontext už není zárukou pravosti.

Bill Greer, geoinformační analytik a spoluzakladatel organizace Common Space, BBC Verify řekl, že incident může výrazně poškodit důvěru veřejnosti, protože satelitní snímky byly historicky vnímány jako mimořádně spolehlivý zdroj dat . Podle něj se falešné satelitní snímky k šíření dezinformací používaly už dříve. Pokud budou vlády zároveň omezovat přístup k datům, může přibývat falešných snímků a ubývat těch skutečných — což důvěru dále oslabí .

Henry Ajder to označil za další případ, kdy AI podkopává zdroje ověřených informací pouhou všudypřítomnou nejistotou, zda do jejich vzniku nezasáhla umělá inteligence .

Proč Google funkci stáhl

Google 31. července uvedl, že zaznamenal užitečné využití nástroje ze strany geoinformačních profesionálů, zároveň ale viděl sdílení snímků, které podle něj mohly porušovat pravidla společnosti. Firma zdůraznila, že lidé Google Earth výjimečně důvěřují jako spolehlivému pohledu na svět.

„Viděli jsme, že geoinformační odborníci tuto funkci využívají různými užitečnými způsoby. Zároveň jsme ale zaznamenali sdílení snímků vytvořených pomocí nástroje, které zřejmě porušují naše pravidla. Víme, že lidé Google Earth důvěřují jako spolehlivému pohledu na svět. Tuto funkci proto v Google Earth stahujeme, zatímco pracujeme na zavedení silnějších ochranných mechanismů.“

Google zatím neoznámil, kdy by se funkce mohla vrátit ani jak přesně budou nová omezení vypadat. Krátká životnost nástroje ale ukázala, jak rychle může AI funkce narušit důvěru v platformu, kterou používají novináři, vyšetřovatelé i veřejnost jako orientační bod pro ověřování toho, co se ve světě skutečně děje.