OpenAI introduce un sistema para verificar imágenes generadas por IA

Qué hacen los metadatos C2PA

C2PA (Coalition for Content Provenance and Authenticity) es un estándar abierto que permite registrar información sobre cómo se creó o modificó un contenido digital. Esa información se guarda como metadatos asociados al archivo.

Los llamados Content Credentials pueden indicar, por ejemplo, si una imagen fue generada por inteligencia artificial o si ha sido editada posteriormente. Gracias al uso de firmas criptográficas y registros de procedencia, las herramientas compatibles pueden verificar la historia del archivo y mostrar cómo se originó o cambió con el tiempo.

Este estándar está siendo adoptado por múltiples actores del sector, incluidos desarrolladores de IA, fabricantes de cámaras, empresas de software y organizaciones de medios, con el objetivo de aumentar la transparencia en el contenido digital.

El problema de depender solo de metadatos

Aunque los metadatos son útiles para rastrear el origen de un archivo, tienen una debilidad importante: pueden perderse fácilmente.

Cuando una imagen circula por internet, acciones comunes como descargarla, hacer una captura de pantalla, editarla, comprimirla o volver a subirla a otra plataforma pueden eliminar o modificar esos metadatos.

Si eso ocurre, la señal que indicaba su origen puede desaparecer. Por esa razón, OpenAI decidió añadir una segunda capa de identificación más resistente.

Cómo ayuda la marca de agua invisible SynthID

SynthID es una tecnología desarrollada por Google DeepMind que inserta una señal imperceptible directamente en los píxeles de la imagen.

A diferencia de los metadatos —que están fuera de la imagen—, la marca de agua queda integrada en el propio contenido visual. El resultado es un marcador invisible para las personas, pero detectable mediante herramientas de verificación.

Debido a que la señal está dentro de la imagen, puede sobrevivir a transformaciones comunes como recortes, compresión o conversiones de formato, situaciones en las que los metadatos suelen perderse.

Al combinar metadatos C2PA con una marca de agua a nivel de píxel, OpenAI crea un sistema redundante de verificación: si una señal desaparece, la otra podría seguir siendo detectable.

La nueva herramienta pública “Verify”

Como complemento, OpenAI está presentando una herramienta pública de verificación pensada para que cualquier persona pueda comprobar el origen de una imagen.

El sistema permitirá subir una imagen y analizar si contiene señales que indiquen que fue generada por herramientas de OpenAI, entre ellas:

• ChatGPT
• Codex
• la API de OpenAI

La verificación se basa en detectar indicios como los metadatos C2PA o la marca de agua SynthID presentes en las imágenes producidas por esos modelos.

Aun así, la herramienta tiene límites. Informes iniciales indican que podría no identificar correctamente imágenes que hayan sido muy modificadas o a las que se les hayan eliminado las señales detectables.

Por qué importa para la desinformación

Internet ya está lleno de imágenes sintéticas muy convincentes. A medida que los modelos generativos mejoran, distinguir entre contenido real y generado por IA se vuelve más complicado.

La iniciativa de procedencia de OpenAI busca facilitar esa distinción. Al incorporar señales detectables y ofrecer una herramienta de verificación, el objetivo es ayudar a:

• periodistas a confirmar la autenticidad de imágenes
• plataformas a detectar contenido generado por IA
• investigadores a estudiar medios sintéticos
• usuarios a comprender mejor el origen del contenido que ven en línea

Estas medidas no eliminarán por completo las imágenes falsas —especialmente cuando provienen de herramientas que no siguen estándares de procedencia—, pero pueden hacer que el contenido generado por OpenAI sea más transparente y rastreable.

Un paso hacia estándares de procedencia en toda la industria

El sistema de OpenAI refleja una tendencia más amplia en la industria tecnológica y de medios: avanzar hacia estándares compartidos de procedencia del contenido.

Cada vez más organizaciones combinan metadatos, marcas de agua y herramientas de verificación para rastrear el origen del contenido digital. Si este enfoque se adopta de forma amplia, sistemas como C2PA junto con SynthID podrían convertirse en una pieza clave para verificar imágenes en la era de la inteligencia artificial generativa.