Studie avdekker «attribution decay» i AI-genererte bilder

Totalt undersøkte de 24 ensembler trent på sju offentlige bildesamlinger. Datasettene inneholdt fra 256 til mer enn 160 000 bilder. For hvert resultat laget forskerne et «kontrafaktisk univers» – versjoner av bildet der ett mulig treningsbidrag ble fjernet om gangen. Den største forskjellen fra originalresultatet ble kalt «counterfactual radius», eller kontrafaktisk radius. Målet beskriver den maksimale kausale effekten av ett utelatt treningsbidrag.

Hva «attribution decay» viste

Når datasettstørrelsen økte, falt den kontrafaktiske radiusen. Å fjerne ett enkelt bilde gjorde med andre ord stadig mindre forskjell på det genererte resultatet.

Ved tilstrekkelig store datasett kunne det samme også gjelde større grupper. Forskerne fant at det i enkelte tilfeller ikke ga noen merkbar endring å fjerne alle bildene fra én bestemt kunstner eller alle fotografier av en bestemt person.

Dette er et funn om manglende attribusjon i den betydningen studien tester: Hvis et resultat ikke endrer seg når et treningsbidrag fjernes, kan bidraget ikke tilskrives kausalt ansvar for akkurat dette resultatet etter studiens målestokk.

Hva kan det bety for opphavsrett?

Resultatet kan gjøre én bestemt type argument vanskeligere i rettstvister mot selskaper som utvikler bildegeneratorer, for eksempel Midjourney, OpenAI eller Microsoft. Det gjelder saker der påstanden er at et konkret resultat ble forårsaket av en navngitt kunstners verk eller av kopier av kunstnerens stil.

En saksøker kan få problemer med å dokumentere et direkte, resultatspesifikt bidrag dersom det å fjerne hele kunstnerens produksjon ikke endrer bildet i nevneverdig grad.

Studien avgjør likevel ingen konkrete saker og etablerer ingen juridisk regel. Opphavsrettstvister kan også dreie seg om uautorisert kopiering under treningen, vesentlig likhet mellom et bestemt resultat og et beskyttet verk, tilgang til materialet, økonomisk skade, avtalebetingelser og andre spørsmål. Om ett bestemt bilde var nødvendig for ett bestemt resultat, er bare én del av bildet.

Viktige begrensninger

Dette er ikke et funn om at modellen ikke har memorert noe. Et resultat kan være uten påviselig tilknytning til ett bestemt treningsbilde i denne slettingstesten, samtidig som modellen kan ha memorert materiale, gjenskape det under bestemte instrukser eller innstillinger, eller lage et resultat som er vesentlig likt et beskyttet verk. Studien undersøker følsomheten for å fjerne treningsenheter – ikke alle former for memorering eller mulig krenkelse.

Dette er heller ikke et resultat om språkmodeller. Studien gjelder diffusjonsmodeller, som brukes til å generere blant annet bilder. At ensemble- og eliminasjonsmetoden ga dette resultatet her, betyr ikke at det samme er dokumentert for transformerbaserte store språkmodeller.

Andre bevis vil fortsatt være nødvendige. Domstoler og tekniske granskere må fortsatt kunne vurdere reproduksjon gjennom konkrete instrukser, likhet og opphav, dokumentasjon av treningsdata og systemlogger, modellrevisjoner og relevant juss. «Attribution decay» viser at en enkel forklaring basert på én treningskilde kan bryte sammen når datasettet blir stort. Det viser ikke at kopiering aldri kan bevises på andre måter.