Google stellt seinen SynthID Detector ab sofort allen Interessierten zur Verfügung. Auf synthid.com lassen sich Bilder, Videos und Audiodateien auf bestimmte unsichtbare KI-Wasserzeichen prüfen. Zuvor war das Angebot nur eingeschränkt zugänglich, etwa für Medienschaffende und Forschende. Der wichtige Haken: Das Tool erkennt nicht jede KI-generierte Datei, sondern sucht nach Wasserzeichen, die es unterstützt.
3
8
24
Was der Detektor prüft
SynthID ist eine Wasserzeichentechnik von Google DeepMind. Sie fügt KI-generierten Inhalten ein für Menschen unsichtbares Signal hinzu, das ein passender Detektor auslesen kann. Anders als Angaben in den Metadaten steckt dieses Signal direkt im Inhalt – es ist also nicht einfach nur eine Information, die beim Entfernen der Metadaten verschwindet.
24
30
Das öffentliche Portal prüft Bilder, Videos und Audio auf unterstützte SynthID-Wasserzeichen von Google, OpenAI, NVIDIA und Kakao. Apple soll künftig ebenfalls unterstützt werden; derzeit gehört das Unternehmen noch nicht zur aufgeführten Abdeckung.
1
2
24
Mit dem Start wird der zuvor eingeschränkte Zugang zu dem Prüfwerkzeug erweitert. Zugleich umfasst die Prüfung nun auch unterstützte Wasserzeichen von OpenAI – zusätzlich zu denen von Google.
3
8
Google zufolge hat das Unternehmen seit dem Start von SynthID im Jahr 2023 mehr als 180 Milliarden Bilder und Videos sowie Audio im Umfang von 240.000 Jahren mit Wasserzeichen versehen. Außerdem meldet Google mehr als eine Million tägliche Prüfanfragen über Suche, Gemini und Chrome. Das sind vom Unternehmen genannte Nutzungszahlen – kein Hinweis darauf, dass der öffentliche Detektor alle KI-Inhalte erkennen kann.
30
31
Weltweit verfügbar, aber nur auf Englisch
Der Detector ist weltweit verfügbar, derzeit jedoch ausschließlich auf Englisch. Für die Nutzung ist eine Anmeldung mit einem Google-, OpenAI- oder Apple-Konto erforderlich.
2
7
9
Was ein Treffer bedeutet – und was nicht
Wird ein Wasserzeichen erkannt, ist das ein Hinweis darauf, dass die Datei ein unterstütztes SynthID-Signal enthält. Das Ergebnis sagt für sich genommen aber nicht, ob die gesamte Datei mit KI erstellt wurde oder ob KI nur bei der Bearbeitung einzelner Teile zum Einsatz kam. Außerdem zeigt das Portal nicht an, welche Bereiche eines Bildes das Wasserzeichen tragen.
8
Wird kein Wasserzeichen gefunden, ist das kein Beweis dafür, dass eine Datei echt oder von Menschen erstellt wurde. Vielleicht stammt sie von einem Anbieter, dessen Wasserzeichen der Detector nicht kennt; außerdem können Bearbeitungen ein Wasserzeichen abschwächen oder entfernen. Andere KI-Systeme nutzen womöglich andere Verfahren – oder gar kein Wasserzeichen, das dieses Portal auslesen kann.
19
24
Google weist selbst darauf hin: SynthID Detector ist kein allgemeiner KI-Detektor. Er kann nur nach Signalen suchen, die zu den unterstützten Anbietern und dem eingesetzten Verfahren passen. Das Ergebnis ist daher ein nützlicher Prüfhinweis, aber kein abschließendes Urteil über die Herkunft einer Datei.
14
24