Comment OpenAI veut rendre les images générées par IA plus faciles à vérifier

Les images générées par intelligence artificielle deviennent de plus en plus réalistes — au point qu’il est parfois difficile de distinguer une création synthétique d’une photo authentique. Pour répondre à ce problème, OpenAI déploie un système de traçabilité du contenu (“content provenance”) à plusieurs niveaux destiné à faciliter l’identification des images créées par ses modèles.

La stratégie combine les métadonnées C2PA Content Credentials, le filigrane invisible SynthID développé par Google DeepMind, et un nouvel outil public de vérification. L’objectif est d’aider plateformes, journalistes et internautes à retracer l’origine des images générées par des outils comme ChatGPT, Codex ou l’API OpenAI.

Une approche de provenance à plusieurs couches

OpenAI décrit cette évolution comme un modèle de traçabilité “multi‑couches” piloté par l’écosystème numérique.

Dans ce système, les images créées avec ses outils contiendront deux types de signaux d’identification :

• des métadonnées C2PA Content Credentials intégrées au fichier
• un filigrane invisible SynthID intégré directement dans les pixels de l’image

Ces deux technologies sont aujourd’hui parmi les approches les plus utilisées pour identifier et tracer les contenus générés par IA dans l’industrie numérique.

À quoi servent les métadonnées C2PA

C2PA — pour Coalition for Content Provenance and Authenticity — est un standard ouvert qui permet d’enregistrer l’origine et l’historique d’un contenu numérique.

Les informations sont stockées dans les métadonnées du fichier et peuvent indiquer :

• si une image a été générée par une IA
• quels outils ont été utilisés
• quelles modifications ont été effectuées

Grâce à une signature cryptographique et à des manifestes de provenance, les outils compatibles peuvent vérifier l’historique d’un fichier et afficher comment il a été créé ou modifié au fil du temps.

Le standard est progressivement adopté par divers acteurs — développeurs d’IA, fabricants d’appareils photo, éditeurs de logiciels et médias — afin d’améliorer la transparence autour des contenus numériques.

La limite des systèmes basés uniquement sur les métadonnées

Les métadonnées sont utiles, mais elles présentent une faiblesse importante : elles peuvent disparaître facilement.

Lorsque des images circulent sur Internet, de nombreuses opérations courantes peuvent supprimer ces informations :

• téléchargement ou ré‑upload sur une plateforme
• capture d’écran
• compression ou changement de format
• modification ou édition du fichier

Dans ces cas, le signal de provenance peut tout simplement être perdu. C’est précisément pour compenser cette fragilité qu’OpenAI ajoute un deuxième mécanisme d’identification.

Comment fonctionne le filigrane invisible SynthID

SynthID est une technologie de filigrane invisible développée par Google DeepMind. Elle insère un signal directement dans les pixels de l’image générée par IA.

Contrairement aux métadonnées, qui sont stockées séparément du contenu visuel, ce marquage est intégré dans l’image elle‑même. Il reste invisible pour l’œil humain mais détectable par des outils spécialisés.

Parce que ce signal est intégré dans les pixels, il peut survivre à certaines transformations fréquentes comme :

• le recadrage
• la compression
• la conversion de format

Autrement dit, même si les métadonnées disparaissent, le filigrane peut encore permettre de détecter l’origine de l’image.

En combinant métadonnées C2PA et filigrane pixelisé, OpenAI met en place un système redondant : si un signal est supprimé, l’autre peut encore être détecté.

Un outil public pour vérifier les images

En parallèle, OpenAI présente un outil public de vérification appelé “Verify”.

Le principe est simple : les utilisateurs pourront importer une image pour vérifier si elle a été générée par des systèmes OpenAI tels que :

• ChatGPT
• Codex
• l’API OpenAI

L’outil analysera les signaux de provenance — comme les métadonnées C2PA ou le filigrane SynthID — afin de déterminer si l’image provient des modèles d’OpenAI.

Cependant, cette vérification a ses limites : certaines images fortement modifiées ou dépourvues de signaux détectables pourraient ne pas être identifiées correctement.

Pourquoi c’est important face à la désinformation

Le web est déjà saturé d’images synthétiques très réalistes. À mesure que les modèles génératifs progressent, il devient de plus en plus difficile pour les internautes de savoir si une image est réelle ou artificielle.

L’initiative d’OpenAI vise à rendre cette distinction plus claire. Les signaux de provenance et l’outil de vérification peuvent notamment aider :

• les journalistes à vérifier l’authenticité d’images
• les plateformes à détecter les médias générés par IA
• les chercheurs à étudier les contenus synthétiques
• les internautes à comprendre l’origine d’un visuel

Ces mécanismes ne peuvent pas empêcher totalement la diffusion d’images trompeuses — surtout si elles proviennent d’outils qui n’utilisent pas ces standards. Mais ils peuvent rendre les images plus transparentes et traçables lorsqu’elles proviennent des systèmes OpenAI.

Vers des standards communs pour les contenus numériques

Cette initiative reflète une tendance plus large dans l’industrie technologique et médiatique : standardiser la provenance des contenus numériques.

Plutôt que de s’appuyer sur une seule méthode de détection, de nombreuses entreprises combinent désormais plusieurs approches — métadonnées, filigranes et outils de vérification — pour suivre l’origine des médias.

L’efficacité de ce modèle dépendra largement de son adoption par les plateformes et les outils numériques. Mais si ces standards se généralisent, des systèmes de provenance multi‑couches comme C2PA + SynthID pourraient devenir une base essentielle pour vérifier les contenus à l’ère de l’IA générative.