MIT-studie: KI-bilder blir vanskeligere å spore når modellene vokser

Det betyr ikke at bildet aldri spilte noen rolle i modellens samlede trening. Det betyr at dets individuelle, årsaksmessige bidrag til ett bestemt resultat – målt gjennom studiens fjerningstest – kan være for lite til å oppdage.

Slik testet forskerne modellen

Det er krevende å undersøke dette direkte. Den tradisjonelle metoden ville vært å trene modellen på nytt etter at et kildebilde var fjernet, og deretter sammenligne det nye resultatet med originalen. Å gjenta dette for enkeltbilder, kunstnere eller personer ville vært kostbart. Tilnærminger basert på anslag kan dessuten mislykkes i å fjerne alle følgeeffektene av dataene.

Dai og Gifford utviklet derfor et «diffusion ensemble»: flere mindre diffusjonskomponenter som trenes på ulike, delvis overlappende deler av datasettet. For å teste påvirkningen fra en kilde kunne forskerne slå av komponentene som hadde sett kilden, og deretter generere et kontrafaktisk resultat – altså hva modellen ville ha produsert uten denne kilden – uten å trene hele systemet på nytt.

Forskerne sammenlignet metoden med 24 konvensjonelle diffusjonsmodeller som var trent på de samme dataene. Etter standardmål ga modellene gjennomgående sammenlignbar kvalitet på resultatene.

Metoden ga en eksakt fjerningstest innenfor denne arkitekturen: Hvis resultatet forble uendret etter at alle komponentene som hadde vært eksponert for en kilde, ble slått av, fant forsøket ingen målbar evidens for at kilden hadde forårsaket akkurat dette resultatet.

Hva kan det bety for opphavsrettssaker?

Attribusjonssvekkelse kan gjøre én bestemt type krav vanskeligere å bevise: Påstanden om at et konkret KI-bilde ble forårsaket av, eller kopiert fra, én saksøkers bilde eller samlede kunstneriske produksjon. Hvis en eksakt fjerningstest ikke endrer resultatet, gir testen liten støtte for å knytte resultatet til den fjernede kilden.

Dette kan bli relevant i tvister om tjenester og modellutviklere som Midjourney, OpenAI og Microsoft. Studien avgjør imidlertid ikke om noen av disse selskapene har juridisk ansvar. Den gir kun forskningsmessig dokumentasjon på hvor vanskelig det kan være å etablere en årsakskjede mellom bestemte treningsdata og bestemte resultater.

Flere separate spørsmål står fortsatt åpne:

• Hvordan ble treningsdataene skaffet? Studien avgjør ikke om det var lovlig å samle inn eller bruke et opphavsrettsbeskyttet verk til trening.
• Er resultatet vesentlig likt et beskyttet verk? Visuell likhet kan være relevant selv om det er vanskelig å bevise årsakssammenhengen til én bestemt fil.
• Memorerte eller gjenga systemet et eksempel? En modell kan i enkelte situasjoner gjengi treningsmateriale. Det er noe annet enn å bevise at hvert resultat kan tilskrives én enkelt kilde.
• Var systemet satt opp for å etterligne en kunstner? Målrettede instruksjoner, finjustering eller annen modellatferd kan gi bevis som ikke fanges opp av en fjerningstest av ett bilde.

I praksis kan domstoler og etterforskere derfor trenge et bredere bevisbilde: dokumentasjon av hvordan dataene ble hentet inn, informasjon om bildenes opphav, direkte analyser av likhet, tester med målrettede instrukser, observasjoner av modellens atferd og sakkyndige vurderinger. Dette følger av studiens funn om at årsakssammenhengen mellom ett bilde og ett resultat blir mindre pålitelig i stor skala. Det er ikke en ny juridisk regel som forskningen i seg selv har innført.

Studien er ikke et frikort for KI-utviklere

Attribusjonssvekkelse må ikke tolkes som et bevis på at diffusjonsmodeller aldri kopierer. Studien viser at den målbare påvirkningen fra én kilde kan bli ubetydelig når treningsdatasettene vokser. Modeller kan fortsatt memorere eller gjengi treningsbilder i enkelte situasjoner.

Studien har også et avgrenset virkeområde. Forskerne undersøkte bildemodeller basert på diffusjon, og resultatene kan derfor ikke automatisk overføres til språkmodeller eller andre typer generative systemer.

Den mest presise konklusjonen er dermed en forsiktig en: Store diffusjonsmodeller kan gjøre det vanskeligere å knytte et bestemt resultat til ett bestemt treningsbilde eller én bestemt kunstners verk. Det kan svekke én mulig vei for å bevise ansvar for et konkret bilde, samtidig som de bredere spørsmålene om treningspraksis, kopiering, etterligning og immaterielle rettigheter fortsatt står ubesvart.