For å lage en nøyaktig sammenligning uten et bestemt kildebilde slo de av alle komponentene som hadde sett bildet under treningen. Dermed kunne de teste en modell uten bildet uten å måtte trene hele modellen på nytt eller basere seg på omtrentlige beregninger.

Forskerne sammenlignet også metoden med 24 konvensjonelle diffusjonsmodeller trent på de samme dataene. Modellene hadde stort sett sammenlignbar kvalitet målt med vanlige standarder.

Testene omfattet datasett fra 256 til mer enn 160 000 bilder. Forskerne undersøkte hva som skjedde når de fjernet:

• ett enkelt bilde
• alle verkene til én kunstner
• alle fotografiene av én person

På større datasett førte fjerningen ofte ikke til noen merkbar endring i det genererte resultatet. Det er denne avtakende, målbare effekten fra hver enkelt kilde forskerne beskriver som «attribution decay».

Hva kan dette bety for AI og opphavsrett?

Resultatet kan gjøre det mer komplisert å hevde at et bestemt resultat fra et system knyttet til for eksempel Midjourney, OpenAI eller Microsoft ble forårsaket av – eller kopiert fra – ett bestemt bilde eller en hel samling av en kunstners verk. Hvis resultatet forblir uendret når materialet fjernes i en nøyaktig kontrafaktisk test, gir akkurat denne testen et svakt grunnlag for å knytte resultatet til kilden.

Studien avgjør likevel ikke de sentrale juridiske spørsmålene i opphavsrettsdebatten. Den tar blant annet ikke stilling til:

• om et selskap kopierte verk da treningsdataene ble samlet inn
• om selve treningen innebærer et inngrep i opphavsretten eller kan regnes som «fair use»
• om et resultat er vesentlig likt et beskyttet verk
• om en modell med vilje ble instruert eller konfigurert til å etterligne en bestemt kunstner

Studien handler altså om hvor vanskelig det kan være å dokumentere den kausale koblingen mellom en bestemt kilde og et bestemt resultat. Den er ikke en juridisk avgjørelse.

Ikke et frikort for AI-selskaper

«Attribution decay» betyr heller ikke at diffusjonsmodeller ikke kan huske bilder. Modeller kan i enkelte situasjoner memorere eller gjengi treningsmateriale. Poenget er at effekten fra ett enkelt bilde ofte blir umulig å måle når datasettet vokser – ikke at kopiering aldri skjer.

Funnene gjelder dessuten diffusjonsbaserte bildegeneratorer. De kan derfor ikke uten videre overføres til språkmodeller eller andre typer generative systemer.

For domstoler kan det dermed bli nødvendig å vurdere flere typer dokumentasjon enn bare en direkte kobling mellom ett bilde og ett AI-resultat. Det kan for eksempel være opplysninger om hvordan treningsdataene ble samlet inn, direkte likhet mellom verk, modellens oppførsel ved målrettede instrukser, informasjon om bildenes opphav og vurderinger fra sakkyndige. Dette er en slutning basert på studiens påvisning av hvor vanskelig det kan være å tilskrive enkeltresultater til bestemte kilder i stor skala.

For å lage en nøyaktig sammenligning uten et bestemt kildebilde slo de av alle komponentene som hadde sett bildet under treningen. Dermed kunne de teste en modell uten bildet uten å måtte trene hele modellen på nytt eller basere seg på omtrentlige beregninger.

Forskerne sammenlignet også metoden med 24 konvensjonelle diffusjonsmodeller trent på de samme dataene. Modellene hadde stort sett sammenlignbar kvalitet målt med vanlige standarder.

Testene omfattet datasett fra 256 til mer enn 160 000 bilder. Forskerne undersøkte hva som skjedde når de fjernet:

• ett enkelt bilde
• alle verkene til én kunstner
• alle fotografiene av én person

På større datasett førte fjerningen ofte ikke til noen merkbar endring i det genererte resultatet. Det er denne avtakende, målbare effekten fra hver enkelt kilde forskerne beskriver som «attribution decay».

Hva kan dette bety for AI og opphavsrett?

Resultatet kan gjøre det mer komplisert å hevde at et bestemt resultat fra et system knyttet til for eksempel Midjourney, OpenAI eller Microsoft ble forårsaket av – eller kopiert fra – ett bestemt bilde eller en hel samling av en kunstners verk. Hvis resultatet forblir uendret når materialet fjernes i en nøyaktig kontrafaktisk test, gir akkurat denne testen et svakt grunnlag for å knytte resultatet til kilden.

Studien avgjør likevel ikke de sentrale juridiske spørsmålene i opphavsrettsdebatten. Den tar blant annet ikke stilling til:

• om et selskap kopierte verk da treningsdataene ble samlet inn
• om selve treningen innebærer et inngrep i opphavsretten eller kan regnes som «fair use»
• om et resultat er vesentlig likt et beskyttet verk
• om en modell med vilje ble instruert eller konfigurert til å etterligne en bestemt kunstner

Studien handler altså om hvor vanskelig det kan være å dokumentere den kausale koblingen mellom en bestemt kilde og et bestemt resultat. Den er ikke en juridisk avgjørelse.

Ikke et frikort for AI-selskaper

«Attribution decay» betyr heller ikke at diffusjonsmodeller ikke kan huske bilder. Modeller kan i enkelte situasjoner memorere eller gjengi treningsmateriale. Poenget er at effekten fra ett enkelt bilde ofte blir umulig å måle når datasettet vokser – ikke at kopiering aldri skjer.

Funnene gjelder dessuten diffusjonsbaserte bildegeneratorer. De kan derfor ikke uten videre overføres til språkmodeller eller andre typer generative systemer.

For domstoler kan det dermed bli nødvendig å vurdere flere typer dokumentasjon enn bare en direkte kobling mellom ett bilde og ett AI-resultat. Det kan for eksempel være opplysninger om hvordan treningsdataene ble samlet inn, direkte likhet mellom verk, modellens oppførsel ved målrettede instrukser, informasjon om bildenes opphav og vurderinger fra sakkyndige. Dette er en slutning basert på studiens påvisning av hvor vanskelig det kan være å tilskrive enkeltresultater til bestemte kilder i stor skala.