Как OpenAI делает изображения, созданные ИИ, легче распознаваемыми

В случае изображений, созданных ИИ, такие метаданные могут содержать:

• указание, что изображение сгенерировано искусственным интеллектом;
• информацию о модели или инструменте, который использовался;
• данные о последующих изменениях или редактировании.

Преимущество C2PA в том, что это открытый стандарт, который внедряется не только разработчиками ИИ. Производители камер, СМИ и программное обеспечение для обработки изображений также могут добавлять такие данные, формируя более широкую экосистему проверки подлинности медиа.

Но у метаданных есть серьёзное ограничение: их легко потерять. Скриншоты, повторная загрузка в соцсети, сжатие или редактирование в программах, которые не сохраняют метаданные, могут удалить эту информацию.

Невидимый водяной знак SynthID

Чтобы повысить устойчивость системы, OpenAI сотрудничает с Google DeepMind, внедряя технологию SynthID — невидимый водяной знак, встроенный прямо в изображение.

В отличие от метаданных, которые хранятся в информации о файле, SynthID модифицирует сами пиксели, кодируя в них скрытый сигнал, который можно обнаружить специальными инструментами.

Преимущества такого подхода:

• сигнал может сохраняться после обычного обмена изображениями или конвертации форматов;
• визуально изображение не меняется;
• наличие водяного знака можно обнаружить специализированными системами проверки.

Исследования системы показывают, что подобные водяные знаки уже были применены к миллиардам изображений и кадров видео в сервисах Google.

Однако и этот метод не идеален. Сильное редактирование, обрезка, трансформации или попытки намеренного удаления сигнала могут ухудшить обнаружение, а водяной знак существует только в изображениях, которые изначально были сгенерированы системами, использующими эту технологию.

Метаданные и водяные знаки: в чём разница

Обе технологии помогают отслеживать происхождение изображения, но решают разные задачи.

Метаданные (C2PA)

• дают подробную и прозрачную информацию о происхождении файла;
• легко читаются программами и платформами;
• могут быть случайно или намеренно удалены при распространении.

Невидимые водяные знаки (SynthID)

• встроены в само изображение и поэтому сложнее удаляются;
• переживают многие обычные преобразования файла;
• обычно передают более простой сигнал и требуют специальных инструментов для обнаружения.

Поэтому OpenAI использует оба метода одновременно: метаданные дают контекст и историю, а водяной знак повышает устойчивость идентификации при распространении изображения.

Публичный инструмент проверки

Компания также представила предварительную версию публичного инструмента проверки изображений. Он позволит загрузить файл и узнать, содержит ли он признаки того, что был создан системой OpenAI.

Инструмент анализирует изображение на наличие:

• метаданных C2PA, указывающих на генерацию ИИ;
• водяного знака SynthID, встроенного в изображение.

Если обнаруживается один из сигналов, система может сообщить, что изображение, вероятно, было создано моделями OpenAI — например, через ChatGPT или API.

Важно понимать: отсутствие этих сигналов не доказывает, что изображение создано человеком. Метаданные могли быть удалены, а само изображение может происходить из другого ИИ‑сервиса, который не использует такие методы.

Почему это важно

С ростом генеративного ИИ количество реалистичных синтетических изображений в интернете быстро увеличивается. В этой ситуации индустрия всё чаще делает ставку не на «идеальное обнаружение», а на системы происхождения контента (content provenance) — механизмы, которые показывают контекст создания медиа.

Подход OpenAI сочетает открытые стандарты, водяные знаки и инструменты проверки, чтобы платформам, журналистам и обычным пользователям было проще понять, откуда появилось изображение и как оно было создано.

Главный вывод: в будущем определение ИИ‑контента, скорее всего, будет опираться не на один универсальный тест, а на сочетание разных сигналов и широкое внедрение стандартов по всей интернет‑экосистеме.