MIT-studie: AI-billeder bliver sværere at spore, når modellerne vokser

Et studie fra forskere ved MIT’s Computer Science and Artificial Intelligence Laboratory (CSAIL) peger på et problem, der bliver tydeligere, i takt med at billedgeneratorer baseret på diffusion skalerer: Det kan blive stadig sværere at bevise, at ét bestemt træningsbillede har forårsaget ét bestemt resultat. Forskerne kalder fænomenet attribution decay – på dansk omtrent »henfald i kildehenføringen«.

Resultatet er relevant for debatten om AI-genereret kunst og ophavsret, men det skal læses præcist. Studiet handler om den kausale forbindelse mellem træningsdata og output fra diffusionsmodeller. Det afgør ikke, om virksomheder måtte indsamle ophavsretligt beskyttede værker, om et genereret billede er væsentligt lig et beskyttet værk, eller om en model kan have memoriseret og gengivet materiale.

Hvad betyder »attribution decay«?

Grundideen er enkel: Når en diffusionsmodel lærer fra et større billeddatasæt, har hvert enkelt træningseksempel typisk en mindre målbar indflydelse på et bestemt genereret billede. Når modellen og datasættet bliver tilstrækkeligt store, kan en fjernelse af ét billede efterlade outputtet reelt uændret.

Forskerne testede også større fjernelser: alle værker af én kunstner og alle fotografier af en bestemt person. Resultaterne tyder på, at disse fjernelser ligeledes kan give ringe eller ingen målbar ændring i genererede output, når modellen og datasættet er store nok. Forsøgene omfattede 24 diffusions-ensembler og datasæt på mellem 256 og over 160.000 billeder.

Det betyder ikke, at billedet slet ingen rolle har spillet i modellens samlede træning. Det betyder, at dets individuelle kausale bidrag til et bestemt output – i den fjernelsestest, studiet anvendte – kan være for lille til at blive målt.

Sådan fungerede forskernes diffusion ensemble

Det er vanskeligt at teste spørgsmålet direkte. Den traditionelle metode ville være at træne en model på ny, efter at et bestemt kildebillede var fjernet, og derefter sammenligne det nye output med det oprindelige. Hvis man gentager processen for individuelle billeder, kunstnere eller personer, bliver det både dyrt og teknisk krævende. Tilnærmede metoder fjerner desuden ikke nødvendigvis alle afledte effekter fra dataene.

Dai og Gifford udviklede derfor et diffusion ensemble: flere mindre diffusionskomponenter, der blev trænet på forskellige, overlappende udsnit af datasættet. For at teste en kildes indflydelse kunne forskerne deaktivere de komponenter, der havde set kilden, og derefter generere det kontrafaktiske output – altså det resultat, modellen ville have skabt uden kilden – uden at træne hele systemet igen.

Forskerne sammenlignede metoden med 24 traditionelle diffusionsmodeller, der var trænet på de samme data. Målt med standardmetoder havde modellerne overordnet sammenlignelig kvalitet.

Arkitekturen gav dermed en præcis fjernelsestest inden for den undersøgte modeltype: Hvis outputtet forblev uændret, efter at alle komponenter, der havde set en bestemt kilde, var slået fra, fandt forsøget ingen målbar evidens for, at kilden havde forårsaget netop dette output.

Hvad kan det betyde for ophavsretssager?

»Attribution decay« kan gøre en bestemt type argument vanskeligere at føre: påstanden om, at et konkret AI-genereret billede blev forårsaget af eller kopieret fra en sagsøgers billede eller samlede kunstneriske produktion. Hvis en præcis kontrafaktisk test ikke ændrer outputtet, når materialet fjernes, giver testen kun et svagt grundlag for at knytte outputtet til den pågældende kilde.

Det kan blive relevant i tvister om billedtjenester og modeludviklere, herunder virksomheder som Midjourney, OpenAI og Microsoft. Studiet afgør dog ikke, om nogen af virksomhederne har et juridisk ansvar. Det dokumenterer en videnskabelig vanskelighed ved at etablere en kausal forbindelse mellem individuelle træningsdata og individuelle output.

Flere separate spørgsmål står fortsat åbne:

• Hvordan blev træningsdataene indsamlet? Studiet afgør ikke, om det var lovligt at indsamle eller bruge et ophavsretligt beskyttet værk til træning.
• Er outputtet væsentligt lig et beskyttet værk? Visuel lighed kan være relevant, selv om det er vanskeligt at bevise en kausal forbindelse til én bestemt fil.
• Har systemet memoriseret eller gengivet et eksempel? En model kan i visse situationer reproducere træningsmateriale. Det er noget andet end at bevise, at hvert output kan henføres til én bestemt kilde.
• Var systemet indstillet til at efterligne en kunstner? Målrettede prompts, finjustering eller anden modeladfærd kan give beviser, som ikke fanges af en test, hvor ét billede fjernes.

I praksis kan domstole og efterforskere derfor få brug for et bredere bevismateriale: dokumentation for dataindsamling, oplysninger om materialets oprindelse, direkte analyser af lighed, tests med målrettede prompts, dokumentation af modellens adfærd og ekspertvurderinger. Det følger af studiets konklusion om, at forbindelsen mellem ét billede og ét output bliver mindre pålidelig i stor skala; forskningen skaber ikke i sig selv en juridisk regel.

Resultatet er ikke et fripas til AI-udviklere

»Attribution decay« bør ikke læses som et bevis på, at diffusionsmodeller aldrig kopierer. Studiets konklusion er, at et enkelt kildemateriales målbare indflydelse kan blive ubetydelig, når træningsdatasættet vokser. Modeller kan stadig memorisere eller gengive træningseksempler i visse situationer.

Studiet har også et afgrænset fokus. Forskerne undersøgte billedgeneratorer baseret på diffusion, og resultaterne kan derfor ikke automatisk overføres til sprogmodeller eller andre generative arkitekturer.

Den mest præcise læsning er derfor forsigtig: Store diffusionssystemer kan gøre det vanskeligere at henføre et bestemt output til én bestemt kilde, selv når træningsdataene indeholder et konkret billede eller en kunstners værker. Det kan svække én måde at bevise ansvar for et bestemt resultat på, men efterlader de bredere spørgsmål om træningspraksis, kopiering, efterligning og immaterialret uafklarede.