Ny MIT-undersøgelse peger på “attribution decay” i AI-billedgeneratorer

Testene dækkede datasæt fra 256 til mere end 160.000 billeder. Forskerne fjernede blandt andet:

• ét enkelt billede,
• alle værker af én bestemt kunstner og
• alle fotografier af én bestemt person.

Ved de større datasæt gav fjernelsen ofte ingen mærkbar ændring i det genererede output. Det er denne faldende, målbare betydning af den enkelte kilde, som forskerne betegner “attribution decay”.

Hvad kan det betyde for AI- og ophavsretssager?

Resultatet kan gøre det vanskeligere at argumentere for, at et bestemt billede fra et system forbundet med eksempelvis Midjourney, OpenAI eller Microsoft blev skabt på grund af – eller kopieret fra – en bestemt sagsøgers billede eller samlede kunstneriske produktion.

Hvis en præcis fjernelse af materialet ikke ændrer det relevante output, giver netop denne kontrafaktiske test kun et begrænset grundlag for at tilskrive outputtet materialet.

Undersøgelsen besvarer dog ikke de centrale juridiske spørgsmål i sagerne. Den afgør ikke:

• om virksomheden kopierede værker, da træningsdataene blev indsamlet,
• om selve træningen udgør en krænkelse eller kan være omfattet af fair use,
• om et output er væsentligt lig med et beskyttet værk eller
• om en model bevidst blev bedt om eller indstillet til at efterligne en bestemt kunstner.

Studiet handler om den kausale forbindelse mellem bestemte træningsdata og bestemte outputs – ikke om en juridisk afgørelse.

Derfor er resultatet ikke et “fripas”

“Attribution decay” betyder ikke, at diffusionsmodeller er ude af stand til at memorere billeder. Modeller kan i visse situationer stadig huske eller gengive træningseksempler. Begrebet beskriver, at den enkelte kildes effekt ofte bliver umulig at måle, når datasættene vokser – ikke at kopiering aldrig finder sted.

Resultaterne gælder desuden diffusionsbaserede billedgeneratorer og kan ikke uden videre overføres til sprogmodeller eller andre former for generativ AI.

For domstole kan det derfor blive nødvendigt at se på mere end en direkte én-til-én-forbindelse mellem et billede i træningsdataene og et AI-output. Det kan eksempelvis være dokumentation for, hvordan data blev indsamlet, direkte lighedsbeviser, modeladfærd ved målrettede prompts, oplysninger om et værks oprindelse samt vurderinger fra eksperter. Det er en slutning på baggrund af undersøgelsens påvisning af, hvor vanskeligt det kan være at fastslå årsagen til et enkelt output i stor skala.