Почему Google Earth отозвал функцию генерации изображений менее чем за сутки

Однако та же привязка к настоящей географии, которая делала функцию полезной для концептов и планирования, позволяла изображать на реальных координатах взрывы, военные действия и катастрофы. Примерно через сутки после запуска журналисты и исследователи продемонстрировали масштаб проблемы, а 31 июля Google объявил об отзыве инструмента .

Какие фальшивые сцены удалось создать

Тесты показали, что речь шла не о безобидных абстрактных картинках. С помощью обычных текстовых запросов исследователи получили изображения, которые могли бы выглядеть как документальные свидетельства событий:

• BBC Verify создала рухнувшую Эйфелеву башню, воронку, поглощающую пирамиду Хеопса, и российские танки в Киеве .
• Журналист The Atlantic Маттео Вонг сгенерировал горящие офисные здания, масштабные разрушения в Сан-Франциско, дымящийся кратер на месте Эйфелевой башни, самолёт, врезавшийся в One World Trade Center, лагерь бездомных на лужайке у Белого дома, протестующих возле Mar-a-Lago, поток мигрантов на границе США и Мексики и отель Trump Hotel в секторе Газа .
• Журналисты PC Gamer превращали свои родные города в зоны боевых действий с помощью промптов .
• Исследователь ИИ и дезинформации Хенк ван Эсс создал изображения несуществующей атомной электростанции в Иране, лагеря беженцев на границе США и Мексики и вымышленного госпиталя в Газе с воронкой от взрыва рядом .
• NPR сгенерировала изображение острова Харк в Иране, которое могло создать впечатление, будто объект пострадал .
• Джозеф Кокс из 404 Media с помощью инструмента создал изображение взрыва .

В чём была особая опасность

Расследования с открытыми источниками — OSINT — используют спутниковые снимки для проверки сообщений о войнах, стихийных бедствиях и нарушениях прав человека. Обычно такие изображения воспринимаются как важная опора для фактчекинга: карта показывает реальную местность, масштаб объектов и их расположение.

Проблема Google Earth заключалась в том, что инструмент не просто генерировал общий дипфейк. Он прикреплял вымышленное событие к настоящим координатам и реальному картографическому окружению.

Хенк ван Эсс объяснил BBC Verify, что система «соединяла вымышленное изображение с подлинными координатами, нанесёнными на настоящую карту». По его словам, подделке уже не обязательно выглядеть убедительно самой по себе: она «наследует авторитет карты, на которой появилась» .

Брэди Африк, аналитик исследовательского подразделения American Enterprise Institute, отметил, что такие изображения были привязаны к реальным спутниковым снимкам. Это убирало некоторые типичные признаки генерации ИИ — например, несоответствия рельефа и масштаба . Он также предупредил: мало кто проверяет происхождение картинки, прежде чем пролистать её дальше или поделиться ею .

Расследователь Бен Хойбл писал, что инструмент позволял быстро создавать изображения ударов беспилотников, очень похожие на то, что уже видели в Украине, России, на Ближнем Востоке и в других зонах конфликтов . Исследователь обнаружения ИИ-контента Генри Аджер назвал особенно дестабилизирующим риск использования таких изображений в быстро развивающихся кризисах. По его словам, журналисты и люди, работающие на передовой, особенно нуждаются в источниках, которые пока считаются свободными от вмешательства ИИ .

Какие меры защиты обещал Google

Компания заявляла о двух основных механизмах защиты:

1. Каждое изображение, созданное с помощью инструмента, должно было содержать цифровой водяной знак SynthID. Проверить, было ли изображение создано ИИ, можно было через приложение Gemini или Google Lens .
2. В модель были встроены правила, призванные блокировать изображения на «вредные темы» .

На практике этого оказалось недостаточно.

Водяной знак не решает проблему сам по себе

BBC Verify обнаружила, что SynthID обычно срабатывал, но проверки можно было обойти: в некоторых случаях Gemini удавалось убедить, что поддельные изображения Google Earth являются настоящими. Часть сторонних инструментов обнаружения ИИ также не распознала созданный контент .

Кроме того, водяной знак полезен только тогда, когда получатель изображения действительно его проверяет. Снимок можно скачать, разместить в другой социальной сети или переслать в мессенджере — и большинство пользователей уже не станет искать сведения о его происхождении. Критики указывали, что это ограничение было очевидно с самого начала .

Ограничения обходились изменением запроса

Небольшая корректировка формулировки могла обойти встроенные правила. Например, система отклонила запрос о «возведённой платформе для повешения предателей» возле парламента, но согласилась на менее конкретную формулировку .

Почему пострадало доверие к спутниковым снимкам

История с Google Earth показала более глубокую проблему: ИИ угрожает не только достоверности отдельных картинок, но и доверию к спутниковым данным в целом.

На протяжении десятилетий спутниковые изображения считались одним из наиболее надёжных видов визуальных свидетельств в журналистике, расследованиях военных преступлений и гуманитарной работе. Если на настоящую карту можно без труда наложить правдоподобную вымышленную сцену, пользователю становится сложнее отличить исходные данные от синтетической вставки.

Билл Грир, геопространственный аналитик и сооснователь Common Space, заявил BBC Verify, что это может особенно сильно ударить по общественному доверию: спутниковые снимки исторически воспринимались как исключительно надёжный источник данных . Он добавил, что поддельные спутниковые изображения уже использовались для распространения дезинформации. Если доступ к реальным данным будет ограничиваться, интернет может получить одновременно больше фальшивых и меньше настоящих снимков, что ещё сильнее подорвёт доверие .

Генри Аджер назвал функцию ещё одним примером того, как постоянные сомнения в возможном участии ИИ размывают доверие к источникам, которые раньше считались надёжными .

Что сказал Google

31 июля Google сообщил в публикации в X, что отзывает функцию до усиления защитных механизмов. Компания заявила:

«Мы видели, что специалисты по геопространственным данным используют эту функцию для самых разных полезных задач, однако также заметили, что пользователи распространяют скриншоты сгенерированных изображений, которые, судя по всему, нарушают наши правила. Мы знаем, что люди особенно доверяют Google Earth как надёжному представлению мира. Поэтому мы отзываем эту функцию из Google Earth, пока работаем над внедрением более эффективных защитных механизмов» .

Google не объявил, когда функция может вернуться и какие именно дополнительные ограничения будут введены. Пока этот случай остаётся показательным примером того, как функция, задуманная для визуализации реального мира, менее чем за сутки стала инструментом создания убедительных геопространственных подделок.