Как OpenAI делает изображения, созданные ИИ, легче распознаваемыми

Фотореалистичные изображения, созданные генеративными моделями, становятся всё труднее отличить от настоящих фотографий. Чтобы повысить прозрачность происхождения цифрового контента, OpenAI разворачивает многоуровневую систему отслеживания происхождения изображений.

Она объединяет три сигнала: метаданные стандарта C2PA (Content Credentials), невидимый водяной знак SynthID от Google DeepMind и публичный инструмент проверки изображений. Идея в том, что ни один метод не является идеальным — но их комбинация позволяет лучше понимать, откуда появился медиаконтент.

Многоуровневый подход к происхождению изображений

Вместо одной технологии OpenAI использует несколько взаимодополняющих механизмов. Каждый из них даёт разные подсказки о том, как было создано изображение.

• Метаданные C2PA — записывают информацию о происхождении файла.
• Невидимый водяной знак SynthID — встраивается непосредственно в изображение.
• Инструмент проверки — позволяет загрузить файл и проверить наличие этих сигналов.

Такой подход повышает устойчивость системы: если один сигнал исчезнет, другой всё ещё может сохраниться.

Метаданные C2PA (Content Credentials)

OpenAI внедряет стандарт C2PA (Coalition for Content Provenance and Authenticity) — открытый технический стандарт для добавления криптографически проверяемых метаданных к медиаконтенту.

В случае изображений, созданных ИИ, такие метаданные могут содержать:

• указание, что изображение сгенерировано искусственным интеллектом;
• информацию о модели или инструменте, который использовался;
• данные о последующих изменениях или редактировании.

Преимущество C2PA в том, что это открытый стандарт, который внедряется не только разработчиками ИИ. Производители камер, СМИ и программное обеспечение для обработки изображений также могут добавлять такие данные, формируя более широкую экосистему проверки подлинности медиа.

Но у метаданных есть серьёзное ограничение: их легко потерять. Скриншоты, повторная загрузка в соцсети, сжатие или редактирование в программах, которые не сохраняют метаданные, могут удалить эту информацию.

Невидимый водяной знак SynthID

Чтобы повысить устойчивость системы, OpenAI сотрудничает с Google DeepMind, внедряя технологию SynthID — невидимый водяной знак, встроенный прямо в изображение.

В отличие от метаданных, которые хранятся в информации о файле, SynthID модифицирует сами пиксели, кодируя в них скрытый сигнал, который можно обнаружить специальными инструментами.

Преимущества такого подхода:

• сигнал может сохраняться после обычного обмена изображениями или конвертации форматов;
• визуально изображение не меняется;
• наличие водяного знака можно обнаружить специализированными системами проверки.

Исследования системы показывают, что подобные водяные знаки уже были применены к миллиардам изображений и кадров видео в сервисах Google.

Однако и этот метод не идеален. Сильное редактирование, обрезка, трансформации или попытки намеренного удаления сигнала могут ухудшить обнаружение, а водяной знак существует только в изображениях, которые изначально были сгенерированы системами, использующими эту технологию.

Метаданные и водяные знаки: в чём разница

Обе технологии помогают отслеживать происхождение изображения, но решают разные задачи.

Метаданные (C2PA)

• дают подробную и прозрачную информацию о происхождении файла;
• легко читаются программами и платформами;
• могут быть случайно или намеренно удалены при распространении.

Невидимые водяные знаки (SynthID)

• встроены в само изображение и поэтому сложнее удаляются;
• переживают многие обычные преобразования файла;
• обычно передают более простой сигнал и требуют специальных инструментов для обнаружения.

Поэтому OpenAI использует оба метода одновременно: метаданные дают контекст и историю, а водяной знак повышает устойчивость идентификации при распространении изображения.

Публичный инструмент проверки

Компания также представила предварительную версию публичного инструмента проверки изображений. Он позволит загрузить файл и узнать, содержит ли он признаки того, что был создан системой OpenAI.

Инструмент анализирует изображение на наличие:

• метаданных C2PA, указывающих на генерацию ИИ;
• водяного знака SynthID, встроенного в изображение.

Если обнаруживается один из сигналов, система может сообщить, что изображение, вероятно, было создано моделями OpenAI — например, через ChatGPT или API.

Важно понимать: отсутствие этих сигналов не доказывает, что изображение создано человеком. Метаданные могли быть удалены, а само изображение может происходить из другого ИИ‑сервиса, который не использует такие методы.

Почему это важно

С ростом генеративного ИИ количество реалистичных синтетических изображений в интернете быстро увеличивается. В этой ситуации индустрия всё чаще делает ставку не на «идеальное обнаружение», а на системы происхождения контента (content provenance) — механизмы, которые показывают контекст создания медиа.

Подход OpenAI сочетает открытые стандарты, водяные знаки и инструменты проверки, чтобы платформам, журналистам и обычным пользователям было проще понять, откуда появилось изображение и как оно было создано.

Главный вывод: в будущем определение ИИ‑контента, скорее всего, будет опираться не на один универсальный тест, а на сочетание разных сигналов и широкое внедрение стандартов по всей интернет‑экосистеме.