Фіаско Google Nano Banana 2: Як ШІ-генератор зображень за 24 години підірвав довіру до супутникових знімків

Приклади сфабрикованих супутникових знімків

Дослідники та журналісти швидко продемонстрували небезпеку, створивши переконливі фейкові супутникові сцени, зокрема:

• Іранський ядерний об'єкт, який виглядав пошкодженим або зміненим
• Біженці на кордоні США та Мексики (створено нідерландським дослідником OSINT Генком ван Ессом)
• Авіакатастрофа в Амстердамі
• Бомбова вирва в Газі
• Пожежа на іранському острові Харк
• Зруйнована Ейфелева вежа
• Пошкодження Великої піраміди в Гізі

Інші фейки включали затоплений Капітолій США, вибухову вирву в Лос-Анджелесі та сцену протесту .

Про що попереджали дослідники

Генк ван Есс, нідерландський дослідник OSINT, сказав The Guardian, що інструмент «нічого не відмовлявся створювати» — він генерував біженців на мексиканському кордоні, ядерний завод в Ірані та сцену в лікарні в Газі без будь-якої фільтрації вмісту . Він попередив, що функція фундаментально підриває довіру до супутникових знімків, які протягом багатьох років були критичним інструментом для дослідників і фактчекерів .

Джейк Годін з Bellingcat сказав NPR, що інструмент може «фундаментально знищити довіру до супутникових знімків як доказів». Він зазначив, що супутникові знімки історично були одними з найбільш довірених доказів OSINT, і цей інструмент зробив тривіально легким створення переконливих фейків, які потребували б значних зусиль для спростування .

Чому водяні знаки SynthID не спрацювали

Google вбудував цифрові водяні знаки SynthID — як видимі мітки, так і невидимі метадані — у кожне зображення Nano Banana 2. Спочатку компанія пропонувала користувачам перевіряти підозрілі зображення за допомогою Gemini або Google Lens . Але дослідники виявили кілька критичних недоліків:

• Водяні знаки SynthID можна обрізати або видалити простим скріншотом або перезбереженням, що видаляє невидимі метадані
• Водяний знак покриває лише ШІ-генеровані частини, а не основне супутникове зображення, що дозволяє легко стверджувати, що зображення є «реальними супутниковими даними»
• Деякі сфабриковані зображення повністю пройшли перевірку SynthID, тобто система водяних знаків не змогла надійно позначити їх як ШІ-генеровані

TechTimes описала запуск як «найшвидше значне відкликання ШІ-продукту, спричинене конкретним збоєм у безпеці» — захист, який Google назвав своїм основним, просто не зупинив поширення фейків .

Заявлена причина відкликання від Google

Google заявив, що прибрав функцію після того, як побачив, що «люди діляться скріншотами згенерованих зображень, які, схоже, порушують наші правила» . Компанія заявила, що «додасть сильніші запобіжники», перш ніж розглядати можливість повторного випуску інструменту . У заяві в X Google написав: «Ми серйозно ставимося до дезінформації — кожне зображення, створене за допомогою Nano Banana в Google Earth, містить цифровий водяний знак SynthID» . Але шкоду було завдано протягом годин.

Чому це важливо

Цей інцидент підкреслює зростаючу проблему для технологічних компаній, які поспішають інтегрувати генеративний ШІ в продукти, яким користувачі довіряють для отримання фактичної інформації. Супутникові знімки давно вважаються надійним джерелом доказів для журналістів, правозахисників і дослідників OSINT. Дозволивши легко створювати переконливі фейки, які успадковують довіру до бренду Google Earth, функція Nano Banana 2 на короткий час перетворила надійний картографічний інструмент на потенційний двигун дезінформації.

Google не оголосив терміни повторного випуску функції.