Dette gjorde det mulig å lage et presist kontrafaktisk scenario: Hva ville modellen ha produsert dersom et bestemt bilde ikke hadde vært med i treningen? Forskerne slo av alle komponentene som hadde fått se det aktuelle bildet, i stedet for å måtte trene en stor, samlet modell på nytt.

De sammenlignet også ensemblet med 24 konvensjonelle diffusjonsmodeller trent på de samme dataene. Modellene hadde omtrent sammenlignbare resultater på vanlige mål for bildekvalitet.

Totalt undersøkte de 24 ensembler trent på sju offentlige bildesamlinger. Datasettene inneholdt fra 256 til mer enn 160 000 bilder. For hvert resultat laget forskerne et «kontrafaktisk univers» – versjoner av bildet der ett mulig treningsbidrag ble fjernet om gangen. Den største forskjellen fra originalresultatet ble kalt «counterfactual radius», eller kontrafaktisk radius. Målet beskriver den maksimale kausale effekten av ett utelatt treningsbidrag.

Hva «attribution decay» viste

Når datasettstørrelsen økte, falt den kontrafaktiske radiusen. Å fjerne ett enkelt bilde gjorde med andre ord stadig mindre forskjell på det genererte resultatet.

Ved tilstrekkelig store datasett kunne det samme også gjelde større grupper. Forskerne fant at det i enkelte tilfeller ikke ga noen merkbar endring å fjerne alle bildene fra én bestemt kunstner eller alle fotografier av en bestemt person.

Dette er et funn om manglende attribusjon i den betydningen studien tester: Hvis et resultat ikke endrer seg når et treningsbidrag fjernes, kan bidraget ikke tilskrives kausalt ansvar for akkurat dette resultatet etter studiens målestokk.

Hva kan det bety for opphavsrett?

Resultatet kan gjøre én bestemt type argument vanskeligere i rettstvister mot selskaper som utvikler bildegeneratorer, for eksempel Midjourney, OpenAI eller Microsoft. Det gjelder saker der påstanden er at et konkret resultat ble forårsaket av en navngitt kunstners verk eller av kopier av kunstnerens stil.

En saksøker kan få problemer med å dokumentere et direkte, resultatspesifikt bidrag dersom det å fjerne hele kunstnerens produksjon ikke endrer bildet i nevneverdig grad.

Studien avgjør likevel ingen konkrete saker og etablerer ingen juridisk regel. Opphavsrettstvister kan også dreie seg om uautorisert kopiering under treningen, vesentlig likhet mellom et bestemt resultat og et beskyttet verk, tilgang til materialet, økonomisk skade, avtalebetingelser og andre spørsmål. Om ett bestemt bilde var nødvendig for ett bestemt resultat, er bare én del av bildet.

Viktige begrensninger

Dette er ikke et funn om at modellen ikke har memorert noe. Et resultat kan være uten påviselig tilknytning til ett bestemt treningsbilde i denne slettingstesten, samtidig som modellen kan ha memorert materiale, gjenskape det under bestemte instrukser eller innstillinger, eller lage et resultat som er vesentlig likt et beskyttet verk. Studien undersøker følsomheten for å fjerne treningsenheter – ikke alle former for memorering eller mulig krenkelse.

Dette er heller ikke et resultat om språkmodeller. Studien gjelder diffusjonsmodeller, som brukes til å generere blant annet bilder. At ensemble- og eliminasjonsmetoden ga dette resultatet her, betyr ikke at det samme er dokumentert for transformerbaserte store språkmodeller.

Andre bevis vil fortsatt være nødvendige. Domstoler og tekniske granskere må fortsatt kunne vurdere reproduksjon gjennom konkrete instrukser, likhet og opphav, dokumentasjon av treningsdata og systemlogger, modellrevisjoner og relevant juss. «Attribution decay» viser at en enkel forklaring basert på én treningskilde kan bryte sammen når datasettet blir stort. Det viser ikke at kopiering aldri kan bevises på andre måter.

Dette gjorde det mulig å lage et presist kontrafaktisk scenario: Hva ville modellen ha produsert dersom et bestemt bilde ikke hadde vært med i treningen? Forskerne slo av alle komponentene som hadde fått se det aktuelle bildet, i stedet for å måtte trene en stor, samlet modell på nytt.

De sammenlignet også ensemblet med 24 konvensjonelle diffusjonsmodeller trent på de samme dataene. Modellene hadde omtrent sammenlignbare resultater på vanlige mål for bildekvalitet.

Totalt undersøkte de 24 ensembler trent på sju offentlige bildesamlinger. Datasettene inneholdt fra 256 til mer enn 160 000 bilder. For hvert resultat laget forskerne et «kontrafaktisk univers» – versjoner av bildet der ett mulig treningsbidrag ble fjernet om gangen. Den største forskjellen fra originalresultatet ble kalt «counterfactual radius», eller kontrafaktisk radius. Målet beskriver den maksimale kausale effekten av ett utelatt treningsbidrag.

Hva «attribution decay» viste

Når datasettstørrelsen økte, falt den kontrafaktiske radiusen. Å fjerne ett enkelt bilde gjorde med andre ord stadig mindre forskjell på det genererte resultatet.

Ved tilstrekkelig store datasett kunne det samme også gjelde større grupper. Forskerne fant at det i enkelte tilfeller ikke ga noen merkbar endring å fjerne alle bildene fra én bestemt kunstner eller alle fotografier av en bestemt person.

Dette er et funn om manglende attribusjon i den betydningen studien tester: Hvis et resultat ikke endrer seg når et treningsbidrag fjernes, kan bidraget ikke tilskrives kausalt ansvar for akkurat dette resultatet etter studiens målestokk.

Hva kan det bety for opphavsrett?

Resultatet kan gjøre én bestemt type argument vanskeligere i rettstvister mot selskaper som utvikler bildegeneratorer, for eksempel Midjourney, OpenAI eller Microsoft. Det gjelder saker der påstanden er at et konkret resultat ble forårsaket av en navngitt kunstners verk eller av kopier av kunstnerens stil.

En saksøker kan få problemer med å dokumentere et direkte, resultatspesifikt bidrag dersom det å fjerne hele kunstnerens produksjon ikke endrer bildet i nevneverdig grad.

Studien avgjør likevel ingen konkrete saker og etablerer ingen juridisk regel. Opphavsrettstvister kan også dreie seg om uautorisert kopiering under treningen, vesentlig likhet mellom et bestemt resultat og et beskyttet verk, tilgang til materialet, økonomisk skade, avtalebetingelser og andre spørsmål. Om ett bestemt bilde var nødvendig for ett bestemt resultat, er bare én del av bildet.

Viktige begrensninger

Dette er ikke et funn om at modellen ikke har memorert noe. Et resultat kan være uten påviselig tilknytning til ett bestemt treningsbilde i denne slettingstesten, samtidig som modellen kan ha memorert materiale, gjenskape det under bestemte instrukser eller innstillinger, eller lage et resultat som er vesentlig likt et beskyttet verk. Studien undersøker følsomheten for å fjerne treningsenheter – ikke alle former for memorering eller mulig krenkelse.

Dette er heller ikke et resultat om språkmodeller. Studien gjelder diffusjonsmodeller, som brukes til å generere blant annet bilder. At ensemble- og eliminasjonsmetoden ga dette resultatet her, betyr ikke at det samme er dokumentert for transformerbaserte store språkmodeller.

Andre bevis vil fortsatt være nødvendige. Domstoler og tekniske granskere må fortsatt kunne vurdere reproduksjon gjennom konkrete instrukser, likhet og opphav, dokumentasjon av treningsdata og systemlogger, modellrevisjoner og relevant juss. «Attribution decay» viser at en enkel forklaring basert på én treningskilde kan bryte sammen når datasettet blir stort. Det viser ikke at kopiering aldri kan bevises på andre måter.