MIT-Studie zeigt Grenzen beim Zurückverfolgen von KI-Bildern

Mit zunehmender Datensatzgröße führte das Entfernen einer solchen Quelle häufig zu keiner nennenswerten Veränderung des erzeugten Bildes. Der messbare Einfluss einzelner Trainingsbeispiele nimmt also ab – genau diesen Effekt bezeichnen die Autoren als „Attribution Decay“.

Was das für Urheberrechtsverfahren bedeuten könnte

Die Ergebnisse könnten es erschweren, die Entstehung eines konkreten Outputs auf das Werk eines bestimmten Klägers oder auf das vollständige Œuvre eines Künstlers zurückzuführen. Bleibt ein relevantes Ergebnis nach dem exakten Entfernen dieser Daten unverändert, liefert dieser spezielle Gegenfaktualtest nur eine schwache Grundlage für die Behauptung, dass gerade diese Quelle das Ergebnis verursacht hat. Das könnte etwa bei Streitigkeiten über Systeme im Umfeld von Midjourney, OpenAI oder Microsoft eine Rolle spielen.

Die Studie beantwortet aber nicht die eigenständigen Rechtsfragen, ob ein Unternehmen geschützte Werke beim Aufbau seiner Trainingsdaten kopiert hat, ob das Training eine Urheberrechtsverletzung oder eine zulässige Nutzung darstellt, ob ein Ergebnis einem geschützten Werk wesentlich ähnlich ist oder ob ein Modell gezielt dazu gebracht beziehungsweise konfiguriert wurde, den Stil eines Künstlers nachzuahmen. Die Untersuchung liefert wissenschaftliche Hinweise zur kausalen Zuordnung einzelner Outputs – kein Gerichtsurteil.

Warum die Studie kein „Freifahrtschein“ ist

Diffusionsmodelle können Trainingsbeispiele unter bestimmten Bedingungen weiterhin auswendig lernen oder reproduzieren. „Attribution Decay“ besagt lediglich, dass der individuelle Einfluss einzelner Quellen bei größeren Datensätzen häufig zu klein wird, um ihn zuverlässig zu messen. Dass Kopieren nie vorkommt, folgt daraus nicht.

Außerdem untersuchte die Arbeit Diffusionsmodelle zur Bilderzeugung. Die Ergebnisse lassen sich daher nicht automatisch auf Sprachmodelle oder andere generative Architekturen übertragen.

Für die Beurteilung möglicher Rechtsverletzungen könnten deshalb weitere Beweismittel nötig sein: Unterlagen zur Beschaffung der Trainingsdaten, direkte Ähnlichkeitsanalysen, das Verhalten eines Modells bei gezielten Prompts, Informationen zur Herkunft eines Outputs sowie Sachverständigengutachten. Das ist eine Schlussfolgerung daraus, dass sich die Ursache eines einzelnen Ergebnisses bei großen Datensätzen nur schwer einer einzelnen Quelle zuordnen lässt.