Warum sich KI-Bilder oft keiner einzelnen Trainingsaufnahme zuordnen lassen

Als Maß für den größten beobachteten Unterschied verwendeten sie den „counterfactual radius“, also den Gegenfaktum-Radius. Er beschreibt, wie stark sich eine Ausgabe maximal verändert, wenn eine einzelne Trainingseinheit entfernt wird. Zum Vergleich trainierte das Team außerdem 24 herkömmliche Diffusionsmodelle mit denselben Daten. Bei gängigen Bildqualitätsmaßen schnitten die Ensembles ungefähr vergleichbar ab.

Was „attribution decay“ bedeutet

Mit wachsender Datensatzgröße sank der Gegenfaktum-Radius. Das Entfernen eines einzelnen Bildes veränderte die erzeugte Ausgabe zunehmend kaum oder gar nicht mehr. Der kausale Beitrag dieses einen Beispiels wurde damit zu klein, um noch zuverlässig erkennbar zu sein.

Bei ausreichend großen Datensätzen zeigte sich der Effekt laut Studie sogar auf breiteren Ebenen. Das Entfernen sämtlicher Bilder eines bestimmten Künstlers oder aller Fotos, auf denen eine bestimmte Person zu sehen ist, veränderte eine generierte Ausgabe häufig ebenfalls nicht wesentlich.

Das ist ein Ergebnis über Nicht-Zuordenbarkeit im getesteten Gegenfaktum-Sinn: Wenn das Weglassen einer Trainingseinheit die Ausgabe nicht verändert, kann dieser Einheit nach dem Maßstab der Studie keine kausale Verantwortung für genau diese Ausgabe zugeschrieben werden.

Warum das für Urheberrechtsklagen relevant sein könnte

Das Ergebnis könnte eine bestimmte Argumentation in Rechtsstreitigkeiten über Bildgeneratoren erschweren – etwa wenn nachgewiesen werden soll, dass ein konkretes KI-Bild durch die Werke eines bestimmten Künstlers oder durch das Erlernen seines Stils verursacht wurde. Wenn selbst das Entfernen des gesamten Werkkorpus eines Künstlers die Ausgabe praktisch unverändert lässt, kann der direkte, ausgabespezifische kausale Beitrag schwer zu belegen sein.

Eine rechtliche Entscheidung ersetzt die Studie jedoch nicht. In Urheberrechtsverfahren können auch andere Fragen eine Rolle spielen: ob beim Training unbefugt kopiert wurde, wie ähnlich eine konkrete Ausgabe einem geschützten Werk ist, ob das Modell oder der Anbieter Zugang zu den Werken hatte, welcher Marktschaden entstanden ist oder welche vertraglichen Bedingungen galten.

Die wichtigsten Grenzen der Untersuchung

• Kein Beweis gegen Memorisierung: Eine Ausgabe kann nach diesem Löschtest keinem einzelnen Trainingsbild zugeordnet werden, obwohl ein Modell Inhalte memoriert, sie unter bestimmten Eingaben oder Zufallsbedingungen reproduzieren kann oder eine geschützte Vorlage auffallend ähnlich nachbildet. Die Studie misst die Empfindlichkeit gegenüber dem Entfernen von Trainingseinheiten – nicht jede Form von Memorisation oder Rechtsverletzung.
• Kein Ergebnis über große Sprachmodelle: Untersucht wurden Diffusionsmodelle zur Erzeugung audiovisueller Inhalte. Daraus folgt nicht automatisch, dass derselbe Skalierungseffekt oder die Ensemble-Methode auch für transformerbasierte Large Language Models gilt.
• Kein Ersatz für andere Belege: Für technische oder juristische Bewertungen wären weiterhin Prompt- und Reproduktionstests, Ähnlichkeits- und Herkunftsanalysen, Trainingsdaten- und Systemprotokolle, Modellprüfungen sowie die jeweils geltende Rechtslage relevant.

Die Kernaussage lautet daher nicht, dass Kopieren durch KI unnachweisbar sei. Sie lautet enger: Bei sehr großen Trainingsmengen kann die einfache Geschichte „Dieses eine Werk hat dieses eine Ergebnis verursacht“ an Aussagekraft verlieren.