Wie OpenAI die Herkunft von KI‑generierten Bildern überprüfbar machen will

Was hinter C2PA Content Credentials steckt

C2PA steht für Coalition for Content Provenance and Authenticity – ein offener Industriestandard, der Informationen darüber speichert, wie digitale Medien erstellt oder verändert wurden.

Die Informationen werden als Metadaten an eine Datei angehängt und können zum Beispiel enthalten:

• ob ein Bild von einer KI generiert wurde
• welche Software oder welches System beteiligt war
• welche Bearbeitungsschritte vorgenommen wurden

Durch kryptografische Signaturen und sogenannte Provenance‑Manifeste können kompatible Tools diese Daten auslesen und die Entstehungsgeschichte eines Bildes nachvollziehen.

Der Standard wird inzwischen branchenübergreifend genutzt – von KI‑Unternehmen über Kamerahersteller bis hin zu Medienhäusern – um mehr Transparenz in der digitalen Medienwelt zu schaffen.

Das Problem mit Metadaten allein

Metadaten sind nützlich, haben jedoch eine praktische Schwäche: Sie gehen im Internet oft verloren.

Schon alltägliche Aktionen können Metadaten entfernen oder verändern, etwa:

• Herunterladen und erneutes Hochladen
• Screenshots
• Bildbearbeitung
• Komprimierung oder Formatumwandlung

Wenn diese Informationen verschwinden, verschwindet auch das Provenienzsignal. Genau dieses Problem soll der zweite Baustein des Systems lösen.

SynthID: Unsichtbare Wasserzeichen in den Pixeln

Die von Google DeepMind entwickelte Technologie SynthID setzt an einer anderen Stelle an: Sie fügt ein für Menschen unsichtbares Signal direkt in die Bildpixel ein.

Der entscheidende Unterschied zu Metadaten: Das Wasserzeichen ist Teil des Bildes selbst.

Dadurch kann es viele typische Veränderungen überstehen – etwa Zuschneiden, Komprimieren oder Formatwechsel – bei denen Metadaten oft verloren gehen.

Die Kombination aus Metadaten und Pixel‑Wasserzeichen schafft damit ein redundantes Prüfsystem: Wenn ein Signal verschwindet, kann das andere weiterhin Hinweise auf die Herkunft liefern.

Das neue öffentliche „Verify“-Tool

Parallel dazu stellt OpenAI eine Vorschau auf ein öffentliches Verifikationstool vor.

Die Idee: Nutzer können ein Bild hochladen und prüfen lassen, ob es von OpenAI‑Modellen erzeugt wurde. Dazu gehören Inhalte aus:

• ChatGPT
• Codex
• der OpenAI‑API

Das Tool sucht nach Provenienzsignalen wie C2PA‑Metadaten oder dem SynthID‑Wasserzeichen, um festzustellen, ob das Bild aus OpenAI‑Systemen stammt.

Allerdings gibt es Grenzen: Wurde ein Bild stark verändert oder wurden alle erkennbaren Signale entfernt, kann auch das Tool möglicherweise keine eindeutige Herkunft mehr feststellen.

Warum das für Desinformation wichtig ist

Mit immer leistungsfähigeren Bildgeneratoren wird es schwieriger, echte Fotos von synthetischen Bildern zu unterscheiden. Genau hier setzt das Konzept der Content‑Provenienz an.

Die neuen Kennzeichnungen können dabei helfen:

• Journalisten bei der Verifizierung von Bildern
• Plattformen beim Erkennen von KI‑Content
• Forschern bei der Analyse synthetischer Medien
• Nutzern beim Verständnis der Herkunft von Online‑Inhalten

Solche Maßnahmen können Desinformation nicht vollständig verhindern – besonders wenn Inhalte aus Tools stammen, die keine Provenienzstandards nutzen. Sie machen jedoch KI‑Bilder aus OpenAI‑Systemen transparenter und leichter nachvollziehbar.

Teil eines größeren Branchen‑Trends

OpenAIs Initiative spiegelt eine breitere Entwicklung in der Tech‑ und Medienbranche wider: Statt einzelner Erkennungstechniken setzen Unternehmen zunehmend auf Kombinationen aus Metadaten, Wasserzeichen und Prüfwerkzeugen.

Sollten sich Standards wie C2PA und Technologien wie SynthID branchenweit durchsetzen, könnten sie langfristig zu einer zentralen Infrastruktur werden, mit der sich digitale Inhalte im Zeitalter generativer KI besser überprüfen lassen.