Как OpenAI делает изображения, созданные ИИ, проще для проверки

Реалистичные изображения, созданные искусственным интеллектом, становятся всё труднее отличить от настоящих фотографий. Чтобы повысить прозрачность и облегчить проверку происхождения таких изображений, OpenAI внедряет многоуровневую систему отслеживания происхождения контента (content provenance).

Новая схема объединяет три элемента: метаданные C2PA Content Credentials, невидимый водяной знак SynthID от Google DeepMind и публичный инструмент проверки изображений. Вместе они помогают определить, было ли изображение создано системами OpenAI — например, через ChatGPT, Codex или API компании.

Переход к многоуровневой системе происхождения

OpenAI описывает новую стратегию как «многоуровневую, экосистемную модель» отслеживания происхождения цифрового контента.

Изображения, созданные инструментами OpenAI, будут включать два независимых сигнала идентификации:

• метаданные C2PA Content Credentials, встроенные в файл
• невидимый водяной знак SynthID, встроенный прямо в пиксели изображения

Комбинация этих технологий объединяет два ведущих подхода к идентификации контента в современной цифровой экосистеме.

Что такое C2PA Content Credentials

C2PA (Coalition for Content Provenance and Authenticity) — это открытый стандарт, позволяющий сохранять информацию о происхождении цифровых медиафайлов. Эти данные записываются в виде метаданных, прикреплённых к файлу, и могут указывать, например, что изображение было создано искусственным интеллектом.

Стандарт использует криптографические подписи и так называемые «манифесты происхождения», позволяя совместимым инструментам проверять историю файла — кто его создал и какие изменения вносились со временем.

C2PA постепенно внедряется в отрасли: его поддерживают разработчики ИИ, производители камер, медиакомпании и разработчики программного обеспечения как способ повысить прозрачность цифрового контента.

Почему одних метаданных недостаточно

Хотя метаданные полезны для отслеживания происхождения файлов, у них есть серьёзный недостаток — они легко теряются.

При распространении изображений в интернете метаданные часто исчезают. Это может происходить при:

• скачивании файлов
• создании скриншотов
• редактировании изображения
• сжатии или конвертации формата
• повторной публикации на платформах

Когда метаданные удаляются или изменяются, информация о происхождении изображения может исчезнуть. Именно поэтому OpenAI добавляет второй уровень идентификации.

Как работает невидимый водяной знак SynthID

SynthID — это технология невидимых водяных знаков, разработанная Google DeepMind. Она встраивает специальный сигнал прямо в пиксели изображения.

В отличие от метаданных, которые существуют отдельно от самого изображения, SynthID изменяет структуру изображения таким образом, что сигнал:

• невидим для человеческого глаза
• обнаруживается специальными инструментами проверки.

Поскольку водяной знак встроен в сами пиксели, он может сохраняться даже после некоторых изменений изображения — например, при кадрировании, сжатии или смене формата.

Объединяя метаданные C2PA и пиксельный водяной знак, OpenAI создаёт избыточную систему проверки: если один сигнал исчезнет, второй может остаться и позволить определить происхождение изображения.

Публичный инструмент Verify

Помимо встроенных сигналов, OpenAI также представила предварительную версию публичного инструмента проверки изображений.

Планируется, что пользователи смогут загрузить изображение и проверить, было ли оно создано с помощью систем OpenAI, включая:

• ChatGPT
• Codex
• OpenAI API

Инструмент будет анализировать наличие сигналов — например, метаданных C2PA или водяного знака SynthID — чтобы определить источник изображения.

Однако у этого подхода есть ограничения. Сообщается, что инструмент может не распознавать изображения, которые были сильно изменены или полностью лишены этих сигналов.

Почему это важно для борьбы с дезинформацией

Интернет уже переполнен реалистичными синтетическими изображениями. По мере развития генеративных моделей пользователям становится всё сложнее определить, настоящая ли перед ними фотография.

Инициатива OpenAI направлена на то, чтобы сделать происхождение таких изображений более прозрачным. Система может помочь:

• журналистам проверять подлинность изображений
• онлайн‑платформам выявлять синтетический контент
• исследователям изучать распространение AI‑медиа
• пользователям понимать происхождение материалов в сети

Полностью остановить распространение фейковых изображений такие меры не смогут — особенно если контент создаётся инструментами без стандартов происхождения. Но они делают изображения, созданные системами OpenAI, более прозрачными и отслеживаемыми.

Шаг к отраслевому стандарту проверки медиа

Подход OpenAI отражает более широкий тренд в технологической и медийной индустрии: переход к стандартизированной системе происхождения цифрового контента.

Вместо одной технологии всё чаще используются комбинации методов — метаданные, цифровые водяные знаки и инструменты проверки. Если такие системы получат широкое распространение на платформах и в программных инструментах, они могут стать важной частью инфраструктуры доверия в интернете эпохи генеративного ИИ.