Przykłady sfabrykowanych zdjęć satelitarnych

Badacze i dziennikarze błyskawicznie wykazali zagrożenie, tworząc przekonujące fałszywe sceny, w tym:

• Irańską elektrownię jądrową wyglądającą na uszkodzoną lub zmienioną
• Uchodźców na granicy USA–Meksyk (stworzone przez holenderskiego badacza OSINT Henka van Essa)
• Katastrofę lotniczą w Amsterdamie
• Krater po bombie w Gazie
• Płonącą irańską wyspę Kharg
• Zawaloną Wieżę Eiffla
• Uszkodzenia Wielkiej Piramidy w Gizie

Inne fałszywki przedstawiały m.in. zalany Kapitol USA, krater po wybuchu w Los Angeles i scenę protestu .

Ostrzeżenia badaczy

Henk van Ess, holenderski badacz danych jawnych (OSINT), powiedział The Guardian, że narzędzie "nie odmawiało niczego" – wygenerowało uchodźców na granicy meksykańskiej, elektrownię jądrową w Iranie i scenę szpitala w Gazie bez żadnego filtra treści . Ostrzegł, że funkcja ta fundamentalnie podważa wiarygodność zdjęć satelitarnych, które od lat stanowią kluczowe narzędzie dla badaczy i fact-checkerów .

Jake Godin z Bellingcat powiedział NPR, że narzędzie może "całkowicie zniszczyć wiarygodność zdjęć satelitarnych jako dowodów". Zauważył, że zdjęcia satelitarne historycznie należały do najbardziej zaufanych dowodów w analizie OSINT, a to narzędzie sprawiło, że tworzenie przekonujących fałszywek stało się banalnie proste, a ich obalenie wymaga ogromnego wysiłku .

Dlaczego znaki wodne SynthID zawiodły

Google osadził w każdym obrazie Nano Banana 2 cyfrowe znaki wodne SynthID – zarówno widoczne etykiety, jak i niewidoczne metadane. Firma początkowo sugerowała użytkownikom sprawdzanie podejrzanych zdjęć za pomocą Gemini lub Google Lens . Badacze odkryli jednak kilka krytycznych słabości:

• Znaki wodne SynthID można przyciąć lub usunąć poprzez zwykłe zrobienie zrzutu ekranu lub ponowne zapisanie pliku, co usuwa niewidoczne metadane
• Znak wodny obejmuje tylko fragmenty wygenerowane przez AI, a nie leżące pod spodem zdjęcia satelitarne, co ułatwia twierdzenie, że obraz to "prawdziwe dane satelitarne"
• Niektóre sfabrykowane obrazy całkowicie przeszły testy detekcji SynthID, co oznacza, że system znaków wodnych nie oznaczył ich wiarygodnie jako wygenerowanych przez AI

TechTimes określił to wycofanie jako "najszybsze znaczące odwrócenie produktu AI spowodowane konkretną awarią zabezpieczeń" – bariera ochronna, którą Google wskazywał jako główną, po prostu nie powstrzymała rozprzestrzeniania się fałszywek .

Oficjalny powód wycofania przez Google

Google oświadczył, że wycofał funkcję po tym, jak zauważył "ludzi udostępniających zrzuty ekranu wygenerowanych obrazów, które wydają się naruszać nasze zasady" . Firma zapowiedziała, że "doda silniejsze zabezpieczenia", zanim rozważy ponowne udostępnienie narzędzia . W oświadczeniu na X Google napisał: "Traktujemy dezinformację poważnie – każdy obraz stworzony za pomocą Nano Banana w Google Earth zawiera cyfrowy znak wodny SynthID" . Ale szkoda została wyrządzona w ciągu kilku godzin.

Dlaczego to ma znaczenie

Incydent uwypukla rosnące wyzwanie dla firm technologicznych, które ścigają się w integrowaniu generatywnej AI z produktami, którym użytkownicy ufają jako źródłu informacji. Zdjęcia satelitarne od dawna uchodziły za wiarygodny dowód dla dziennikarzy, śledczych ds. praw człowieka i badaczy danych jawnych. Umożliwiając łatwe tworzenie przekonujących fałszywek, które dziedziczą wiarygodność marki Google Earth, funkcja Nano Banana 2 na krótko zamieniła zaufane narzędzie do mapowania w potencjalną fabrykę dezinformacji.

Google nie ogłosił terminu ponownego udostępnienia funkcji.

Przykłady sfabrykowanych zdjęć satelitarnych

Badacze i dziennikarze błyskawicznie wykazali zagrożenie, tworząc przekonujące fałszywe sceny, w tym:

• Irańską elektrownię jądrową wyglądającą na uszkodzoną lub zmienioną
• Uchodźców na granicy USA–Meksyk (stworzone przez holenderskiego badacza OSINT Henka van Essa)
• Katastrofę lotniczą w Amsterdamie
• Krater po bombie w Gazie
• Płonącą irańską wyspę Kharg
• Zawaloną Wieżę Eiffla
• Uszkodzenia Wielkiej Piramidy w Gizie

Inne fałszywki przedstawiały m.in. zalany Kapitol USA, krater po wybuchu w Los Angeles i scenę protestu .

Ostrzeżenia badaczy

Henk van Ess, holenderski badacz danych jawnych (OSINT), powiedział The Guardian, że narzędzie "nie odmawiało niczego" – wygenerowało uchodźców na granicy meksykańskiej, elektrownię jądrową w Iranie i scenę szpitala w Gazie bez żadnego filtra treści . Ostrzegł, że funkcja ta fundamentalnie podważa wiarygodność zdjęć satelitarnych, które od lat stanowią kluczowe narzędzie dla badaczy i fact-checkerów .

Jake Godin z Bellingcat powiedział NPR, że narzędzie może "całkowicie zniszczyć wiarygodność zdjęć satelitarnych jako dowodów". Zauważył, że zdjęcia satelitarne historycznie należały do najbardziej zaufanych dowodów w analizie OSINT, a to narzędzie sprawiło, że tworzenie przekonujących fałszywek stało się banalnie proste, a ich obalenie wymaga ogromnego wysiłku .

Dlaczego znaki wodne SynthID zawiodły

Google osadził w każdym obrazie Nano Banana 2 cyfrowe znaki wodne SynthID – zarówno widoczne etykiety, jak i niewidoczne metadane. Firma początkowo sugerowała użytkownikom sprawdzanie podejrzanych zdjęć za pomocą Gemini lub Google Lens . Badacze odkryli jednak kilka krytycznych słabości:

• Znaki wodne SynthID można przyciąć lub usunąć poprzez zwykłe zrobienie zrzutu ekranu lub ponowne zapisanie pliku, co usuwa niewidoczne metadane
• Znak wodny obejmuje tylko fragmenty wygenerowane przez AI, a nie leżące pod spodem zdjęcia satelitarne, co ułatwia twierdzenie, że obraz to "prawdziwe dane satelitarne"
• Niektóre sfabrykowane obrazy całkowicie przeszły testy detekcji SynthID, co oznacza, że system znaków wodnych nie oznaczył ich wiarygodnie jako wygenerowanych przez AI

TechTimes określił to wycofanie jako "najszybsze znaczące odwrócenie produktu AI spowodowane konkretną awarią zabezpieczeń" – bariera ochronna, którą Google wskazywał jako główną, po prostu nie powstrzymała rozprzestrzeniania się fałszywek .

Oficjalny powód wycofania przez Google

Google oświadczył, że wycofał funkcję po tym, jak zauważył "ludzi udostępniających zrzuty ekranu wygenerowanych obrazów, które wydają się naruszać nasze zasady" . Firma zapowiedziała, że "doda silniejsze zabezpieczenia", zanim rozważy ponowne udostępnienie narzędzia . W oświadczeniu na X Google napisał: "Traktujemy dezinformację poważnie – każdy obraz stworzony za pomocą Nano Banana w Google Earth zawiera cyfrowy znak wodny SynthID" . Ale szkoda została wyrządzona w ciągu kilku godzin.

Dlaczego to ma znaczenie

Incydent uwypukla rosnące wyzwanie dla firm technologicznych, które ścigają się w integrowaniu generatywnej AI z produktami, którym użytkownicy ufają jako źródłu informacji. Zdjęcia satelitarne od dawna uchodziły za wiarygodny dowód dla dziennikarzy, śledczych ds. praw człowieka i badaczy danych jawnych. Umożliwiając łatwe tworzenie przekonujących fałszywek, które dziedziczą wiarygodność marki Google Earth, funkcja Nano Banana 2 na krótko zamieniła zaufane narzędzie do mapowania w potencjalną fabrykę dezinformacji.

Google nie ogłosił terminu ponownego udostępnienia funkcji.