Google uruchomił i wyłączył generator AI w Google Earth w jeden dzień – oto dlaczego eksperci OSINT mówią o kryzysie zaufania

Co robiła ta funkcja

Przycisk „Utwórz obraz” pojawił się w Google Earth w przeglądarce. Po przybliżeniu dowolnego miejsca na mapie użytkownik mógł go kliknąć, wpisać prompt, a Nano Banana 2 zwracał fotorealistyczny obraz zbudowany na podstawie satelitarnych, lotniczych i 3D zdjęć Google z tego konkretnego miejsca . Google przedstawiał to jako kreatywne narzędzie geograficzne, ale w praktyce pozwalało to każdemu na masową fabrykację dowodów geoprzestrzennych .

Dlaczego funkcję wycofano

Fałszywki naruszające politykę pojawiły się natychmiast. Użytkownicy wygenerowali realistyczne sceny, takie jak krater po wybuchu w Los Angeles, podtopiony Kapitol USA, pożar na irańskiej wyspie Kharg, a – co najbardziej niepokojące dla ekspertów – fałszywy obraz elektrowni jądrowej w Iranie oraz rosyjskie czołgi wjeżdżające do Kijowa .

BBC Verify i badacze OSINT publicznie zademonstrowali ryzyko. Badacz AI Henk van Ess wraz z BBC Verify wyprodukowali fałszywe sceny satelitarne wrażliwych lokalizacji geopolitycznych, pokazując, jak łatwo narzędzie może generować mylące obrazy, które wyglądają autentycznie .

Google bezpośrednio przyznał problem z zaufaniem. W oświadczeniu o wycofaniu firma napisała: „Wiemy, że ludzie szczególnie ufają Google Earth, jeśli chodzi o wiarygodny obraz świata. Widzieliśmy, jak specjaliści od geodanych używają tej funkcji do różnych użytecznych celów […] wycofujemy tę funkcję w Google Earth, dopóki nie wdrożymy silniejszych zabezpieczeń” .

Kryzys zaufania w OSINT

Zdjęcia satelitarne są złotym standardem w wywiadzie z otwartych źródeł (OSINT), śledztwach dotyczących praw człowieka i dokumentacji zbrodni wojennych. Eksperci ostrzegali, że wbudowanie generatywnej AI bezpośrednio do Google Earth – najbardziej zaufanej platformy map satelitarnych – może fundamentalnie podważyć wiarygodność wszystkich zdjęć lotniczych jako dowodów .

Funkcja zatarła granicę między rzeczywistością a fałszerstwem u samego źródła. Ponieważ obrazy AI były generowane w samym Google Earth i powiązane z prawdziwymi współrzędnymi, niosły ze sobą fałszywą aurę autentyczności, którą znacznie trudniej zdemaskować niż ogólny obraz AI udostępniony w mediach społecznościowych .

Śledczy ds. praw człowieka polegają na zweryfikowanych zdjęciach satelitarnych, aby dokumentować zbrodnie, zniszczenia wojenne i przestępstwa środowiskowe. Jeśli nawet wyniki Google Earth można podważyć, cały łańcuch dowodowy w śledztwach z otwartych źródeł zostaje naruszony, co ułatwia podmiotom działającym w złej wierze odrzucanie prawdziwych nagrań jako wygenerowanych przez AI .

Społeczność OSINT określiła to zdarzenie jako „kryzys zaufania” dla dowodów cyfrowych. Szybki sprzeciw specjalistów OSINT był głównym powodem, dla którego Google cofnął decyzję w ciągu kilku godzin .

Obrona Google i jej ograniczenia

Google wskazywał, że wszystkie obrazy AI były opatrzone SynthID, cyfrowym znakiem wodnym zaprojektowanym do oznaczania treści generowanych przez AI . Jednak badacze wykazali, że narzędzia detekcyjne można oszukać, a zrzuty ekranu – najczęstszy sposób krążenia fałszywych obrazów – pozbawione są wszelkich platformowych znaków wodnych i kontekstu . Obrona ta okazała się niewystarczająca, by zapobiec fali przekonujących fałszywek, które pojawiły się w ciągu kilku godzin od uruchomienia.

Szersze implikacje

To zdarzenie to jedno z najszybszych odwróceń decyzji produktowej w historii Google i studium przypadku zagrożeń związanych z wbudowywaniem generatywnej AI w zaufane platformy informacyjne bez odpowiednich zabezpieczeń. Dla społeczności OSINT był to surowy sygnał ostrzegawczy, że wiarygodność zdjęć satelitarnych – kamienia węgielnego współczesnych dowodów cyfrowych – może zostać podważona w wyniku jednej premiery produktu .