Wie OpenAI KI‑generierte Bilder künftig erkennbar machen will

Das System basiert auf mehreren Technologien, die sich gegenseitig ergänzen:

• C2PA‑Metadaten (Content Credentials) dokumentieren Herkunft und Bearbeitung eines Bildes.
• SynthID‑Wasserzeichen werden unsichtbar direkt in die Bildpixel eingebettet.
• Ein öffentliches Prüftool analysiert Bilder auf diese Signale.

Durch diese Kombination sollen die Schwächen einzelner Methoden ausgeglichen werden.

C2PA‑Metadaten: Digitale Herkunftsinformationen

OpenAI setzt auf den offenen Standard C2PA (Coalition for Content Provenance and Authenticity). Dieser ermöglicht es, kryptografisch überprüfbare Metadaten direkt an Mediendateien anzuhängen.

Bei KI‑generierten Bildern können diese Metadaten zum Beispiel enthalten:

• ob ein Bild von einer KI erzeugt wurde
• welches Modell oder Tool verwendet wurde
• ob und wie das Bild später bearbeitet wurde

Der Vorteil: C2PA ist kein exklusiver KI‑Standard. Auch Kamerahersteller, Medienhäuser und Softwareanbieter können diese Herkunftsdaten einbetten, sodass ein größeres Ökosystem zur Überprüfung von Medien entsteht.

Allerdings haben Metadaten eine wichtige Schwäche: Sie können leicht verloren gehen. Wenn ein Bild etwa als Screenshot gespeichert, stark komprimiert, in bestimmten Programmen bearbeitet oder auf Plattformen hochgeladen wird, die Metadaten entfernen, verschwinden diese Informationen oft.

SynthID: Unsichtbare Wasserzeichen im Bild

Um Bilder robuster identifizieren zu können, arbeitet OpenAI mit Google DeepMind zusammen. Dabei kommt das System SynthID zum Einsatz – ein unsichtbares Wasserzeichen, das direkt in die Bildpixel eingebettet wird.

Im Gegensatz zu Metadaten wird hier nicht nur eine Dateiinformation angehängt, sondern das Bild selbst leicht verändert, sodass ein spezielles Signal entsteht, das von Prüfwerkzeugen erkannt werden kann.

Vorteile dieses Ansatzes:

• Das Signal bleibt oft auch nach typischen Änderungen erhalten.
• Das sichtbare Erscheinungsbild des Bildes verändert sich nicht.
• Spezielle Tools können das Wasserzeichen nachträglich erkennen.

Laut Forschung zu SynthID wurden bereits Milliarden von Bildern und Videoframes mit solchen Wasserzeichen versehen, etwa in Google‑Diensten.

Trotzdem ist auch diese Methode nicht perfekt: Starke Bearbeitungen, Zuschneiden, Transformationen oder gezielte Angriffe können das Signal abschwächen oder entfernen. Außerdem funktioniert sie nur bei Bildern, deren Erzeugungssystem das Wasserzeichen tatsächlich einbettet.

Metadaten vs. Wasserzeichen: Unterschiede

Beide Technologien verfolgen dasselbe Ziel – die Herkunft eines Bildes nachvollziehbar zu machen – arbeiten aber auf unterschiedliche Weise.

Metadaten (C2PA)

• liefern detaillierte und transparente Informationen zur Entstehung
• lassen sich leicht von Software auslesen
• können beim Teilen oder Bearbeiten verloren gehen

Unsichtbare Wasserzeichen (SynthID)

• sind im Bild selbst eingebettet
• überstehen viele normale Änderungen oder Formatumwandlungen
• liefern meist nur ein einfaches Signal und benötigen spezielle Detektionstools

Aus diesem Grund kombiniert OpenAI beide Verfahren: Metadaten liefern Kontext, Wasserzeichen sorgen für mehr Robustheit während der Verbreitung eines Bildes.

Öffentliches Verifizierungstool

Zusätzlich arbeitet OpenAI an einem öffentlichen Verifizierungstool, mit dem Nutzer Bilder hochladen und auf Herkunftssignale prüfen können.

Das Tool analysiert unter anderem:

• vorhandene C2PA‑Metadaten
• ein SynthID‑Wasserzeichen im Bild

Wenn eines dieser Signale gefunden wird, kann das System anzeigen, dass das Bild wahrscheinlich aus einem OpenAI‑Modell stammt – etwa aus ChatGPT oder über die OpenAI‑API erzeugt.

Wichtig ist jedoch: Fehlende Signale bedeuten nicht automatisch, dass ein Bild echt ist. Metadaten könnten entfernt worden sein, oder das Bild stammt aus einem anderen KI‑System, das keine solchen Kennzeichnungen nutzt.

Warum solche Systeme wichtig werden

Mit der rasanten Entwicklung generativer KI steigt auch die Menge täuschend echter Bilder im Netz. Statt auf einen einzelnen „KI‑Detektor“ zu setzen, setzt OpenAI auf ein Modell mit mehreren Signalen und offener Standardisierung.

Die Kombination aus offenen Standards, Wasserzeichen und Verifizierungstools soll Plattformen, Journalisten und Nutzern helfen, die Herkunft digitaler Bilder besser einzuschätzen – auch wenn es weiterhin keine absolut sichere Methode zur KI‑Erkennung geben wird.

Die zentrale Erkenntnis: Die Zukunft der KI‑Erkennung wird wahrscheinlich aus mehreren Hinweisen bestehen – nicht aus einem einzigen, universellen Test.