Nano Banana 2: как ИИ-генератор Google за 24 часа разрушил доверие к спутниковым снимкам

Примеры сфабрикованных спутниковых снимков

Исследователи и журналисты быстро продемонстрировали опасность, создав убедительные поддельные сцены, включая:

• Иранский ядерный объект со следами повреждений или изменений
• Беженцы на границе США и Мексики (создано нидерландским OSINT-исследователем Хенком ван Эссом)
• Авиакатастрофа в Амстердаме
• Воронка от бомбы в Газе
• Пожар на иранском острове Харк
• Обрушенная Эйфелева башня
• Повреждения у Великой пирамиды Гизы

Среди других подделок — затопленный Капитолий США, воронка от взрыва в Лос-Анджелесе и сцена протестов .

Что предупреждали исследователи

Хенк ван Эсс, нидерландский исследователь OSINT, рассказал The Guardian, что инструмент «ничего не блокировал» — он генерировал беженцев на мексиканской границе, ядерный объект в Иране и больницу в Газе без каких-либо фильтров . Он предупредил, что функция подрывает доверие к спутниковым снимкам, которые годами были ключевым инструментом для OSINT-расследователей и фактчекеров .

Джейк Годин из Bellingcat заявил NPR, что инструмент может «фундаментально разрушить доверие к спутниковой съёмке как к доказательству». Он отметил, что спутниковые снимки исторически были одними из самых надёжных улик в OSINT, а этот инструмент делает тривиальным создание убедительных подделок, опровержение которых потребует значительных усилий .

Почему водяные знаки SynthID не сработали

Google встроил цифровые водяные знаки SynthID — как видимые метки, так и невидимые метаданные — в каждое изображение Nano Banana 2. Компания изначально советовала пользователям проверять подозрительные изображения через Gemini или Google Lens . Но исследователи обнаружили несколько критических недостатков:

• Водяные знаки SynthID можно обрезать или удалить с помощью простого скриншота или пересохранения, что уничтожает невидимые метаданные
• Водяной знак покрывает только части, созданные ИИ, а не основное спутниковое изображение, что позволяет утверждать, что снимок — «настоящие спутниковые данные»
• Некоторые сфабрикованные изображения полностью прошли проверку SynthID, то есть система не смогла надёжно определить их как ИИ-сгенерированные

TechTimes назвал запуск «самым быстрым значительным откатом ИИ-продукта, вызванным конкретным сбоем в системе безопасности» — защита, которую Google называл своей основной, просто не остановила распространение подделок .

Официальная причина отката

Google заявил, что отключил функцию после того, как увидел «скриншоты сгенерированных изображений, которые, по-видимому, нарушают наши политики» . Компания пообещала «добавить более надёжные ограничения» перед возможным повторным запуском . В заявлении в соцсети X Google написал: «Мы серьёзно относимся к дезинформации — каждое изображение, созданное с Nano Banana в Google Earth, содержит цифровой водяной знак SynthID» . Однако ущерб был нанесён за считанные часы.

Почему это важно

Инцидент подчёркивает растущую проблему для технологических компаний, которые спешат интегрировать генеративный ИИ в продукты, которым пользователи доверяют как источникам фактической информации. Спутниковые снимки долгое время считались надёжным источником доказательств для журналистов, правозащитников и OSINT-исследователей. Сделав лёгким создание убедительных подделок, которые наследуют доверие к бренду Google Earth, функция Nano Banana 2 на короткое время превратила проверенный картографический инструмент в потенциальный двигатель дезинформации.

Google не объявил сроки возможного возвращения функции.