Forskarna jämförde metoden med 24 konventionella diffusionsmodeller som tränats på samma data och hade ungefär jämförbar kvalitet enligt standardmått. Testerna omfattade datamängder från 256 bilder till mer än 160 000 bilder. De tog bort:

• en enskild bild,
• alla verk av en viss konstnär, och
• alla fotografier av en viss person.

När datamängderna blev större gav borttagningen ofta ingen märkbar förändring i den genererade bilden. Det är denna minskande, mätbara effekt från en specifik källa som forskarna kallar ”attribution decay”.

Vad kan det betyda i upphovsrättstvister?

Fyndet kan göra det svårare att hävda att ett visst resultat från en bildgenerator – exempelvis ett system kopplat till Midjourney, OpenAI eller Microsoft – orsakades av, eller kopierades från, just en kärandes bild eller samlade konstnärskap.

Om ett resultat förblir oförändrat när det relevanta materialet tas bort, ger just det kontrafaktiska testet begränsat stöd för att tillskriva resultatet materialet.

Studien avgör däremot inte flera andra juridiska frågor, bland annat:

• om företaget kopierade verk när träningsdata samlades in,
• om själva träningen utgör ett intrång eller kan omfattas av ett undantag,
• om ett resultat är väsentligen likt ett skyddat verk, eller
• om modellen medvetet styrdes eller konfigurerades för att efterlikna en viss konstnär.

Det handlar alltså om en studie av orsakssamband för enskilda AI-resultat, inte om ett juridiskt avgörande.

Ingen fribiljett för AI-modeller

”Attribution decay” ska inte tolkas som att diffusionsmodeller är oförmögna att memorera bilder. I vissa situationer kan modeller fortfarande memorera eller återskapa exempel från träningsdata. Studien visar snarare att effekten från en enskild källa ofta blir så liten att den inte längre går att mäta när datamängden växer.

Resultaten gäller dessutom diffusionsbaserade bildgeneratorer och kan inte automatiskt överföras till språkmodeller eller andra typer av generativ AI.

För domstolar och rättighetsinnehavare innebär det sannolikt att andra bevis kan behövas än en direkt koppling mellan en träningsbild och ett enskilt resultat. Det kan exempelvis handla om dokumentation av hur träningsdata samlats in, tydliga likheter mellan verk, modellens beteende vid riktade instruktioner, information om bildens ursprung och expertanalyser. Detta är en slutsats utifrån studiens visade svårighet att fastställa individuell orsak i stora datamängder – inte ett separat resultat som forskarna nödvändigtvis har prövat.

Forskarna jämförde metoden med 24 konventionella diffusionsmodeller som tränats på samma data och hade ungefär jämförbar kvalitet enligt standardmått. Testerna omfattade datamängder från 256 bilder till mer än 160 000 bilder. De tog bort:

• en enskild bild,
• alla verk av en viss konstnär, och
• alla fotografier av en viss person.

När datamängderna blev större gav borttagningen ofta ingen märkbar förändring i den genererade bilden. Det är denna minskande, mätbara effekt från en specifik källa som forskarna kallar ”attribution decay”.

Vad kan det betyda i upphovsrättstvister?

Fyndet kan göra det svårare att hävda att ett visst resultat från en bildgenerator – exempelvis ett system kopplat till Midjourney, OpenAI eller Microsoft – orsakades av, eller kopierades från, just en kärandes bild eller samlade konstnärskap.

Om ett resultat förblir oförändrat när det relevanta materialet tas bort, ger just det kontrafaktiska testet begränsat stöd för att tillskriva resultatet materialet.

Studien avgör däremot inte flera andra juridiska frågor, bland annat:

• om företaget kopierade verk när träningsdata samlades in,
• om själva träningen utgör ett intrång eller kan omfattas av ett undantag,
• om ett resultat är väsentligen likt ett skyddat verk, eller
• om modellen medvetet styrdes eller konfigurerades för att efterlikna en viss konstnär.

Det handlar alltså om en studie av orsakssamband för enskilda AI-resultat, inte om ett juridiskt avgörande.

Ingen fribiljett för AI-modeller

”Attribution decay” ska inte tolkas som att diffusionsmodeller är oförmögna att memorera bilder. I vissa situationer kan modeller fortfarande memorera eller återskapa exempel från träningsdata. Studien visar snarare att effekten från en enskild källa ofta blir så liten att den inte längre går att mäta när datamängden växer.

Resultaten gäller dessutom diffusionsbaserade bildgeneratorer och kan inte automatiskt överföras till språkmodeller eller andra typer av generativ AI.

För domstolar och rättighetsinnehavare innebär det sannolikt att andra bevis kan behövas än en direkt koppling mellan en träningsbild och ett enskilt resultat. Det kan exempelvis handla om dokumentation av hur träningsdata samlats in, tydliga likheter mellan verk, modellens beteende vid riktade instruktioner, information om bildens ursprung och expertanalyser. Detta är en slutsats utifrån studiens visade svårighet att fastställa individuell orsak i stora datamängder – inte ett separat resultat som forskarna nödvändigtvis har prövat.