Die Forscher gingen noch einen Schritt weiter. Sie entfernten nicht nur einzelne Bilder, sondern auch sämtliche Werke eines Künstlers sowie alle Fotos einer bestimmten Person. Bei ausreichend großen Modellen und Datensätzen führten auch diese Eingriffe zu keiner oder nur zu einer kaum messbaren Veränderung der erzeugten Bilder. Die Experimente umfassten 24 Diffusions-Ensembles und Datensätze mit 256 bis mehr als 160.000 Bildern.

Das bedeutet nicht, dass ein Bild beim Training keinerlei Rolle gespielt hat. Es bedeutet, dass sein individuelle kausaler Beitrag zu einem bestimmten Output im verwendeten Entfernungstest zu klein sein kann, um ihn nachzuweisen.

Wie das Diffusions-Ensemble funktioniert

Die Frage lässt sich nur schwer direkt testen. Bei einem herkömmlichen Verfahren müsste man ein Modell nach dem Entfernen eines Quellbildes vollständig neu trainieren und anschließend das neue Ergebnis mit dem ursprünglichen vergleichen. Für einzelne Bilder, Künstler oder Motive wäre das äußerst aufwendig. Zudem können Näherungsverfahren möglicherweise nicht alle nachgelagerten Auswirkungen eines Trainingsbeispiels entfernen.

Dai und Gifford entwickelten deshalb ein Diffusions-Ensemble: Dabei werden mehrere kleinere Diffusionskomponenten mit unterschiedlichen, sich überschneidenden Datenteilmengen trainiert. Um den Einfluss einer bestimmten Quelle zu prüfen, schalteten die Forscher jene Komponenten ab, die diese Quelle gesehen hatten. So konnten sie das kontrafaktische Ergebnis – also die Frage, was das Modell ohne diese Quelle erzeugt hätte – bestimmen, ohne das gesamte System neu zu trainieren.

Die Ensemble-Methode verglichen sie mit 24 herkömmlichen Diffusionsmodellen, die mit denselben Daten trainiert wurden. Nach gängigen Messgrößen erzielten die Ansätze eine insgesamt vergleichbare Ausgabequalität.

Innerhalb ihrer Architektur ermöglichte die Methode einen exakten Entfernungstest: Blieb der Output unverändert, nachdem alle Komponenten mit Kenntnis der Quelle deaktiviert worden waren, lieferte das Experiment keinen messbaren Hinweis darauf, dass diese Quelle den Output verursacht hatte.

Was das für Urheberrechtsklagen bedeuten könnte

„Attribution Decay“ könnte eine bestimmte Art von Argumentation erschweren: die Behauptung, ein konkretes KI-Bild sei durch das Werk eines bestimmten Klägers oder durch das gesamte Schaffen eines Künstlers verursacht beziehungsweise von dort kopiert worden. Wenn das Entfernen dieses Materials in einem exakten kontrafaktischen Test keine Veränderung bewirkt, spricht der Test nur wenig für eine Zuordnung des Outputs zu dieser Quelle.

Das könnte in Streitfällen rund um Bildgeneratoren und ihre Entwickler relevant werden – etwa bei Unternehmen wie Midjourney, OpenAI oder Microsoft. Die Studie entscheidet jedoch nicht über die rechtliche Verantwortung eines dieser Unternehmen. Sie liefert Erkenntnisse darüber, wie schwierig es sein kann, eine kausale Verbindung zwischen einzelnen Trainingsdaten und einzelnen Ergebnissen herzustellen.

Mehrere rechtlich eigenständige Fragen bleiben offen:

• Wie wurden die Trainingsdaten beschafft? Die Studie sagt nicht, ob das Sammeln oder Verwenden eines urheberrechtlich geschützten Werks zum Training rechtmäßig war.
• Ist das Ergebnis einem geschützten Werk wesentlich ähnlich? Eine visuelle Ähnlichkeit kann relevant sein, selbst wenn sich der Output nur schwer auf eine einzelne Trainingsdatei zurückführen lässt.
• Hat das Modell ein Beispiel memoriert oder reproduziert? In bestimmten Situationen können Modelle Trainingsmaterial wiedergeben. Das ist etwas anderes, als jeden Output einer einzigen Quelle zuordnen zu können.
• Wurde das System gezielt auf die Nachahmung eines Künstlers ausgerichtet? Gezielte Prompts, Feinabstimmung oder anderes Modellverhalten können Hinweise liefern, die ein Test mit nur einem entfernten Bild nicht erfasst.

Für Gerichte und Ermittler könnte deshalb eine breitere Beweislage notwendig sein: Unterlagen zur Beschaffung der Trainingsdaten, Informationen zur Herkunft eines Outputs, direkte Ähnlichkeitsanalysen, Tests mit gezielten Prompts, Hinweise auf das Modellverhalten und Gutachten von Experten. Diese Schlussfolgerung ergibt sich aus der Studie, wonach die Zuordnung eines einzelnen Outputs zu einer einzelnen Quelle bei wachsender Modellgröße unzuverlässiger wird. Sie ist keine neue Rechtsregel, die durch die Forschung geschaffen wurde.

Kein Freifahrtschein für KI-Entwickler

„Attribution Decay“ darf nicht als Beleg dafür verstanden werden, dass Diffusionsmodelle niemals kopieren. Die Studie zeigt vielmehr, dass der messbare Einfluss einer einzelnen Quelle bei größeren Trainingsdatensätzen vernachlässigbar werden kann. Modelle können Trainingsbeispiele unter bestimmten Bedingungen weiterhin memorieren oder reproduzieren.

Auch der Untersuchungsbereich ist begrenzt: Die Arbeit befasst sich mit bildgenerierenden Diffusionsmodellen. Ihre Ergebnisse lassen sich daher nicht automatisch auf Sprachmodelle oder andere generative Architekturen übertragen.

Die vorsichtigste und zugleich treffendste Einordnung lautet deshalb: Große Diffusionssysteme können es erschweren, ein einzelnes KI-Ergebnis auf ein bestimmtes Trainingsbild oder das Werk eines bestimmten Künstlers zurückzuführen. Das kann einen Weg zum Nachweis der Verantwortung für einen konkreten Output schwächen. Die grundsätzlichen Fragen zu Trainingspraktiken, Kopieren, Nachahmung und geistigem Eigentum bleiben jedoch bestehen.

Die Forscher gingen noch einen Schritt weiter. Sie entfernten nicht nur einzelne Bilder, sondern auch sämtliche Werke eines Künstlers sowie alle Fotos einer bestimmten Person. Bei ausreichend großen Modellen und Datensätzen führten auch diese Eingriffe zu keiner oder nur zu einer kaum messbaren Veränderung der erzeugten Bilder. Die Experimente umfassten 24 Diffusions-Ensembles und Datensätze mit 256 bis mehr als 160.000 Bildern.

Das bedeutet nicht, dass ein Bild beim Training keinerlei Rolle gespielt hat. Es bedeutet, dass sein individuelle kausaler Beitrag zu einem bestimmten Output im verwendeten Entfernungstest zu klein sein kann, um ihn nachzuweisen.

Wie das Diffusions-Ensemble funktioniert

Die Frage lässt sich nur schwer direkt testen. Bei einem herkömmlichen Verfahren müsste man ein Modell nach dem Entfernen eines Quellbildes vollständig neu trainieren und anschließend das neue Ergebnis mit dem ursprünglichen vergleichen. Für einzelne Bilder, Künstler oder Motive wäre das äußerst aufwendig. Zudem können Näherungsverfahren möglicherweise nicht alle nachgelagerten Auswirkungen eines Trainingsbeispiels entfernen.

Dai und Gifford entwickelten deshalb ein Diffusions-Ensemble: Dabei werden mehrere kleinere Diffusionskomponenten mit unterschiedlichen, sich überschneidenden Datenteilmengen trainiert. Um den Einfluss einer bestimmten Quelle zu prüfen, schalteten die Forscher jene Komponenten ab, die diese Quelle gesehen hatten. So konnten sie das kontrafaktische Ergebnis – also die Frage, was das Modell ohne diese Quelle erzeugt hätte – bestimmen, ohne das gesamte System neu zu trainieren.

Die Ensemble-Methode verglichen sie mit 24 herkömmlichen Diffusionsmodellen, die mit denselben Daten trainiert wurden. Nach gängigen Messgrößen erzielten die Ansätze eine insgesamt vergleichbare Ausgabequalität.

Innerhalb ihrer Architektur ermöglichte die Methode einen exakten Entfernungstest: Blieb der Output unverändert, nachdem alle Komponenten mit Kenntnis der Quelle deaktiviert worden waren, lieferte das Experiment keinen messbaren Hinweis darauf, dass diese Quelle den Output verursacht hatte.

Was das für Urheberrechtsklagen bedeuten könnte

„Attribution Decay“ könnte eine bestimmte Art von Argumentation erschweren: die Behauptung, ein konkretes KI-Bild sei durch das Werk eines bestimmten Klägers oder durch das gesamte Schaffen eines Künstlers verursacht beziehungsweise von dort kopiert worden. Wenn das Entfernen dieses Materials in einem exakten kontrafaktischen Test keine Veränderung bewirkt, spricht der Test nur wenig für eine Zuordnung des Outputs zu dieser Quelle.

Das könnte in Streitfällen rund um Bildgeneratoren und ihre Entwickler relevant werden – etwa bei Unternehmen wie Midjourney, OpenAI oder Microsoft. Die Studie entscheidet jedoch nicht über die rechtliche Verantwortung eines dieser Unternehmen. Sie liefert Erkenntnisse darüber, wie schwierig es sein kann, eine kausale Verbindung zwischen einzelnen Trainingsdaten und einzelnen Ergebnissen herzustellen.

Mehrere rechtlich eigenständige Fragen bleiben offen:

• Wie wurden die Trainingsdaten beschafft? Die Studie sagt nicht, ob das Sammeln oder Verwenden eines urheberrechtlich geschützten Werks zum Training rechtmäßig war.
• Ist das Ergebnis einem geschützten Werk wesentlich ähnlich? Eine visuelle Ähnlichkeit kann relevant sein, selbst wenn sich der Output nur schwer auf eine einzelne Trainingsdatei zurückführen lässt.
• Hat das Modell ein Beispiel memoriert oder reproduziert? In bestimmten Situationen können Modelle Trainingsmaterial wiedergeben. Das ist etwas anderes, als jeden Output einer einzigen Quelle zuordnen zu können.
• Wurde das System gezielt auf die Nachahmung eines Künstlers ausgerichtet? Gezielte Prompts, Feinabstimmung oder anderes Modellverhalten können Hinweise liefern, die ein Test mit nur einem entfernten Bild nicht erfasst.

Für Gerichte und Ermittler könnte deshalb eine breitere Beweislage notwendig sein: Unterlagen zur Beschaffung der Trainingsdaten, Informationen zur Herkunft eines Outputs, direkte Ähnlichkeitsanalysen, Tests mit gezielten Prompts, Hinweise auf das Modellverhalten und Gutachten von Experten. Diese Schlussfolgerung ergibt sich aus der Studie, wonach die Zuordnung eines einzelnen Outputs zu einer einzelnen Quelle bei wachsender Modellgröße unzuverlässiger wird. Sie ist keine neue Rechtsregel, die durch die Forschung geschaffen wurde.

Kein Freifahrtschein für KI-Entwickler

„Attribution Decay“ darf nicht als Beleg dafür verstanden werden, dass Diffusionsmodelle niemals kopieren. Die Studie zeigt vielmehr, dass der messbare Einfluss einer einzelnen Quelle bei größeren Trainingsdatensätzen vernachlässigbar werden kann. Modelle können Trainingsbeispiele unter bestimmten Bedingungen weiterhin memorieren oder reproduzieren.

Auch der Untersuchungsbereich ist begrenzt: Die Arbeit befasst sich mit bildgenerierenden Diffusionsmodellen. Ihre Ergebnisse lassen sich daher nicht automatisch auf Sprachmodelle oder andere generative Architekturen übertragen.

Die vorsichtigste und zugleich treffendste Einordnung lautet deshalb: Große Diffusionssysteme können es erschweren, ein einzelnes KI-Ergebnis auf ein bestimmtes Trainingsbild oder das Werk eines bestimmten Künstlers zurückzuführen. Das kann einen Weg zum Nachweis der Verantwortung für einen konkreten Output schwächen. Die grundsätzlichen Fragen zu Trainingspraktiken, Kopieren, Nachahmung und geistigem Eigentum bleiben jedoch bestehen.