Warum KI-Bilder ihre Trainingsquellen verlieren können

Die größte gemessene Abweichung zwischen dem Original und diesen kontrafaktischen Ergebnissen bezeichneten sie als „counterfactual radius“ – den kontrafaktischen Radius. Er dient als Maß dafür, wie stark das Weglassen einer einzelnen Trainingseinheit das Ergebnis verändern kann.

Was „Attribution Decay“ konkret bedeutet

Der kontrafaktische Radius nahm ab, sobald die Trainingsdatensätze größer wurden. Praktisch heißt das: Entfernte man ein einzelnes Bild, entstand zunehmend ein Ergebnis, das sich im Rahmen der Messung kaum vom ursprünglichen unterscheiden ließ.

Das wirkt zunächst paradox: Mehr Trainingsdaten können dazu führen, dass ein erzeugtes Bild weniger eindeutig einem einzelnen Beispiel zugeordnet werden kann – selbst wenn dieses Beispiel tatsächlich Teil des Trainingsdatensatzes war. Statt sich bei einem bestimmten Ergebnis auf eine klar erkennbare Vorlage zu stützen, kann das Modell breit verteilte und sich überschneidende Muster aus vielen Quellen nutzen.

Bei ausreichend großen Datensätzen reichte der Effekt über einzelne Bilder hinaus. Laut Studie konnte auch das Entfernen sämtlicher Bilder eines bestimmten Künstlers oder aller Fotos einer bestimmten Person ein erzeugtes Ergebnis im getesteten kontrafaktischen Szenario praktisch unverändert lassen.

Die Forschenden sprechen deshalb von einem Verblassen der Zuordnung und nicht bloß von einem unzureichenden Suchwerkzeug. Möglicherweise fehlt nicht nur eine leistungsfähigere Methode zur Rückverfolgung: Die kausale Verbindung zwischen einer einzelnen Quelle und einem einzelnen Ergebnis kann selbst so stark verteilt sein, dass sie sich nicht mehr isolieren lässt.

Was das für Urheberrechtsklagen bedeuten könnte

„Attribution Decay“ könnte eine bestimmte Argumentationslinie in Urheberrechtsverfahren erschweren: die Behauptung, ein konkretes strittiges Ergebnis sei direkt durch die Werke eines namentlich genannten Künstlers oder durch Kopien dieser Werke im Trainingsmaterial verursacht worden. Wenn das Entfernen des gesamten Œuvres eines Künstlers das Ergebnis kaum verändert, wird es schwieriger, dessen Sammlung in diesem kausalen Test als individuell notwendig für genau dieses Bild darzustellen.

Das ist für Auseinandersetzungen über kommerzielle Bildgeneratoren und den Vorwurf relevant, KI-Modelle würden den Stil von Künstlerinnen und Künstlern kopieren. Große Trainingsmengen schwächen eine einfache Ein-Quellen-Erklärung, bei der ein erkennbares Ergebnis unmittelbar auf ein bestimmtes Werk oder eine einzelne Person zurückgeführt wird. Die Studie könnte Verfahren zum geistigen Eigentum rund um generative Bildsysteme daher komplizierter machen.

Die Forschung entscheidet jedoch nicht, ob ein Unternehmen das Urheberrecht verletzt hat. Sie liefert auch keine automatische rechtliche Verteidigung. In Urheberrechtsstreitigkeiten können ganz andere Fragen entscheidend sein: Wurden geschützte Werke beim Training unbefugt kopiert? Ist ein konkretes Ergebnis einem geschützten Werk hinreichend ähnlich? Kann das System ein bestimmtes Werk unter bestimmten Eingaben reproduzieren? Welcher Schaden ist entstanden, und welche vertraglichen Pflichten gelten?

Die technische Aussage „nicht zuordenbar“ darf deshalb nicht mit der rechtlichen Aussage „nicht kopiert“ gleichgesetzt werden.

Warum die Studie kein Ergebnis über fehlende Speicherung liefert

Das Experiment prüft, wie empfindlich ein Ergebnis auf das Entfernen bestimmter Trainingseinheiten reagiert. Es untersucht nicht jede Form, in der ein Modell Informationen behalten oder reproduzieren kann.

Ein Modell kann im Löschtest nur eine geringe Abhängigkeit von einem einzelnen Bild zeigen und dennoch unter bestimmten Eingaben oder bei bestimmten Zufallsparametern ein konkretes Werk reproduzieren. Ein Ergebnis kann einem geschützten Werk außerdem ähnlich sein, ohne dass sich ein einzelnes Trainingsbild als kausal notwendige Quelle nachweisen lässt.

Diese Aussagen sind daher voneinander zu unterscheiden:

• „Dieses Bild hat dieses Ergebnis beeinflusst“: Der Löschtest stellt eine messbare Veränderung fest, wenn der Einfluss des Bildes entfernt wird.
• „Das Modell hat das Bild gesehen oder Aspekte davon behalten“: Das Modell war dem Bild ausgesetzt oder könnte Merkmale davon gespeichert haben.
• „Das Ergebnis kopiert ein geschütztes Werk“: Das ist eine rechtliche und technische Schlussfolgerung, für die zusätzliche Belege erforderlich sind.

„Attribution Decay“ betrifft unmittelbar nur die erste Frage. Die zweite und dritte Frage beantwortet die Studie nicht.

Noch keine Aussage über große Sprachmodelle

Die Untersuchung bezieht sich auf diffusionsbasierte generative Modelle für Bilder und verwandte audiovisuelle Inhalte. Die Architektur des Ensembles und das beobachtete Skalierungsverhalten lassen sich nicht automatisch auf transformerbasierte große Sprachmodelle (LLMs) übertragen.

Sprachmodelle besitzen andere Architekturen, Trainingsverfahren, Token-Repräsentationen und Ausgabemechanismen. Die Studie kann zwar eine Richtung für künftige Untersuchungen zur Quellenzuordnung vorgeben. Sie zeigt aber nicht, dass derselbe Effekt bereits bei LLMs auftritt.

Welche Belege weiterhin nötig wären

Wenn geklärt werden soll, ob ein KI-System ein Werk kopiert hat, ist „Attribution Decay“ nur ein Baustein. Gerichte und technische Gutachter müssten unter anderem weiterhin prüfen:

• ob das System ein bestimmtes Werk unter kontrollierten Eingaben reproduzieren kann;
• wie ähnlich sich das Ergebnis und das mutmaßlich kopierte Werk visuell sind;
• welche Informationen zu Herkunft, Zugriff und Zusammensetzung der Trainingsdaten vorliegen;
• was Modellprüfungen und die technische Dokumentation ergeben;
• ob das Ergebnis lediglich einen allgemeinen Stil oder eine identifizierbare geschützte Ausdrucksform übernimmt; und
• welche rechtlichen Maßstäbe im konkreten Streitfall gelten.

Die zentrale Erkenntnis der Studie ist damit präziser – und nützlicher – als die Behauptung, KI „vergesse“ ihre Quellen. Wenn Diffusionsdatensätze wachsen, kann der kausale Beitrag einzelner Trainingsbeispiele für ein bestimmtes Ergebnis so breit verteilt sein, dass er sich kaum noch messen lässt. Das erschwert die Quellenzuordnung, macht aber weder Speicherung noch Reproduktion oder eine urheberrechtliche Prüfung unmöglich.