Как OpenAI делает изображения, созданные ИИ, проще для проверки

Стандарт использует криптографические подписи и так называемые «манифесты происхождения», позволяя совместимым инструментам проверять историю файла — кто его создал и какие изменения вносились со временем.

C2PA постепенно внедряется в отрасли: его поддерживают разработчики ИИ, производители камер, медиакомпании и разработчики программного обеспечения как способ повысить прозрачность цифрового контента.

Почему одних метаданных недостаточно

Хотя метаданные полезны для отслеживания происхождения файлов, у них есть серьёзный недостаток — они легко теряются.

При распространении изображений в интернете метаданные часто исчезают. Это может происходить при:

• скачивании файлов
• создании скриншотов
• редактировании изображения
• сжатии или конвертации формата
• повторной публикации на платформах

Когда метаданные удаляются или изменяются, информация о происхождении изображения может исчезнуть. Именно поэтому OpenAI добавляет второй уровень идентификации.

Как работает невидимый водяной знак SynthID

SynthID — это технология невидимых водяных знаков, разработанная Google DeepMind. Она встраивает специальный сигнал прямо в пиксели изображения.

В отличие от метаданных, которые существуют отдельно от самого изображения, SynthID изменяет структуру изображения таким образом, что сигнал:

• невидим для человеческого глаза
• обнаруживается специальными инструментами проверки.

Поскольку водяной знак встроен в сами пиксели, он может сохраняться даже после некоторых изменений изображения — например, при кадрировании, сжатии или смене формата.

Объединяя метаданные C2PA и пиксельный водяной знак, OpenAI создаёт избыточную систему проверки: если один сигнал исчезнет, второй может остаться и позволить определить происхождение изображения.

Публичный инструмент Verify

Помимо встроенных сигналов, OpenAI также представила предварительную версию публичного инструмента проверки изображений.

Планируется, что пользователи смогут загрузить изображение и проверить, было ли оно создано с помощью систем OpenAI, включая:

• ChatGPT
• Codex
• OpenAI API

Инструмент будет анализировать наличие сигналов — например, метаданных C2PA или водяного знака SynthID — чтобы определить источник изображения.

Однако у этого подхода есть ограничения. Сообщается, что инструмент может не распознавать изображения, которые были сильно изменены или полностью лишены этих сигналов.

Почему это важно для борьбы с дезинформацией

Интернет уже переполнен реалистичными синтетическими изображениями. По мере развития генеративных моделей пользователям становится всё сложнее определить, настоящая ли перед ними фотография.

Инициатива OpenAI направлена на то, чтобы сделать происхождение таких изображений более прозрачным. Система может помочь:

• журналистам проверять подлинность изображений
• онлайн‑платформам выявлять синтетический контент
• исследователям изучать распространение AI‑медиа
• пользователям понимать происхождение материалов в сети

Полностью остановить распространение фейковых изображений такие меры не смогут — особенно если контент создаётся инструментами без стандартов происхождения. Но они делают изображения, созданные системами OpenAI, более прозрачными и отслеживаемыми.

Шаг к отраслевому стандарту проверки медиа

Подход OpenAI отражает более широкий тренд в технологической и медийной индустрии: переход к стандартизированной системе происхождения цифрового контента.

Вместо одной технологии всё чаще используются комбинации методов — метаданные, цифровые водяные знаки и инструменты проверки. Если такие системы получат широкое распространение на платформах и в программных инструментах, они могут стать важной частью инфраструктуры доверия в интернете эпохи генеративного ИИ.