El plan de OpenAI para identificar imágenes creadas con IA

Las imágenes generadas por inteligencia artificial son cada vez más realistas, hasta el punto de que distinguirlas de una fotografía auténtica puede resultar complicado. Para abordar este problema, OpenAI está implementando un sistema de procedencia del contenido en varias capas que busca ofrecer más contexto sobre el origen de las imágenes digitales.

La estrategia combina tres señales principales: metadatos C2PA (Content Credentials), la marca de agua invisible SynthID desarrollada por Google DeepMind y una herramienta pública de verificación que analiza las imágenes en busca de esas pistas. El objetivo no es lograr una detección perfecta, sino crear un ecosistema más sólido que permita rastrear el origen del contenido visual en internet.

Una estrategia de procedencia en múltiples capas

En lugar de depender de un único método de detección, OpenAI está utilizando varias tecnologías complementarias. Cada una aporta un tipo distinto de información sobre cómo se creó una imagen.

• Metadatos C2PA: registran datos sobre el origen del archivo.
• Marca de agua SynthID: introduce una señal invisible directamente en la imagen.
• Herramienta de verificación: permite analizar una imagen para detectar esas señales.

Al combinar estos métodos, se intenta compensar las debilidades de cada uno por separado.

Metadatos C2PA (Content Credentials)

OpenAI ha adoptado el estándar C2PA (Coalition for Content Provenance and Authenticity), un marco técnico abierto que permite adjuntar metadatos verificables criptográficamente a archivos multimedia.

En el caso de las imágenes generadas por IA, estos metadatos pueden incluir información como:

• Si la imagen fue creada por un sistema de IA
• Qué herramientas o modelos se utilizaron
• Si el archivo ha sido editado posteriormente

Una ventaja importante es que C2PA no está limitado a la IA. Fabricantes de cámaras, medios de comunicación y plataformas de software también pueden usar este estándar para certificar el origen de fotos o vídeos, creando así un ecosistema más amplio de verificación de contenido.

Sin embargo, los metadatos tienen una limitación importante: pueden perderse o eliminarse con facilidad. Si una imagen se captura mediante una captura de pantalla, se comprime, se edita en programas que eliminan metadatos o se sube a plataformas que no los conservan, la información de procedencia puede desaparecer.

SynthID: la marca de agua invisible

Para reforzar la identificación, OpenAI también se ha asociado con Google DeepMind para integrar SynthID, una tecnología de marca de agua invisible que se incrusta directamente en los píxeles de la imagen.

A diferencia de los metadatos, que existen como información adjunta al archivo, SynthID modifica ligeramente la imagen para introducir una señal imperceptible que las herramientas de detección pueden identificar posteriormente.

Este enfoque tiene varias ventajas:

• La señal puede sobrevivir a muchas formas habituales de compartir o convertir imágenes.
• No altera la apariencia visual de la imagen.
• Puede detectarse mediante herramientas especializadas.

Según investigaciones sobre el sistema, miles de millones de imágenes y fotogramas de vídeo ya han sido marcados con SynthID en servicios de Google, lo que demuestra su potencial para operar a gran escala.

Aun así, la marca de agua tampoco es infalible. Ediciones intensas, recortes, transformaciones o intentos deliberados de eliminar la señal pueden reducir su eficacia, y además solo está presente en imágenes generadas por sistemas que deciden incluirla.

Metadatos vs. marcas de agua: ventajas y límites

Ambos métodos ayudan a rastrear el origen de una imagen, pero resuelven problemas distintos.

Metadatos (C2PA)

• Proporcionan información rica y transparente sobre la procedencia
• Son fáciles de leer para plataformas y herramientas
• Pueden eliminarse accidentalmente o de forma intencional

Marcas de agua invisibles (SynthID)

• Están incrustadas en la imagen, lo que dificulta eliminarlas
• Suelen resistir transformaciones comunes
• Normalmente transmiten una señal más simple y requieren herramientas especializadas para detectarlas

Por esta razón, OpenAI utiliza ambos métodos. Los metadatos ofrecen contexto detallado, mientras que la marca de agua aporta resistencia durante la distribución del contenido.

Una herramienta pública para verificar imágenes

Además, OpenAI está mostrando una herramienta pública de verificación que permitirá subir una imagen y comprobar si contiene señales de procedencia asociadas con sus modelos.

El sistema analiza si la imagen incluye:

• Metadatos C2PA que indiquen generación por IA
• Marcas de agua SynthID incrustadas en la imagen

Si detecta alguna de estas señales, la herramienta puede indicar que la imagen probablemente fue creada con modelos de OpenAI, como los que se utilizan en ChatGPT o a través de su API.

Un detalle importante: la ausencia de estas señales no significa que una imagen sea real. Los metadatos podrían haberse eliminado o la imagen podría proceder de otro sistema de IA que utilice métodos diferentes o ninguno en absoluto.

Por qué la procedencia del contenido importa

El rápido crecimiento de la IA generativa ha multiplicado la cantidad de imágenes sintéticas que circulan en internet. En este contexto, la estrategia de OpenAI se alinea con un esfuerzo más amplio del sector tecnológico para ofrecer contexto sobre el origen del contenido, en lugar de prometer una detección perfecta.

La idea central es que la identificación de imágenes generadas por IA probablemente dependerá de varias señales combinadas y de la adopción de estándares en toda la industria, más que de una única prueba universal.

En otras palabras, el futuro de la verificación visual en internet puede parecerse más a un sistema de pistas acumuladas que a un detector infalible.