Vad visar MIT-studien om ”attributionsförfall” i AI-bildgeneratorer?

Den största skillnaden mellan originalbilden och någon av dessa alternativa versioner kallades kontrafaktisk radie. Måttet beskriver den maximala kausala effekt som ett borttaget träningsobjekt hade på resultatet.

Effekten minskar när datamängden växer

Forskarna såg att den kontrafaktiska radien sjönk när datamängderna blev större. Att ta bort en enda bild gjorde alltså allt oftare liten eller ingen märkbar skillnad för det genererade resultatet.

Vid tillräckligt stora datamängder kunde samma sak gälla större grupper. Att ta bort en viss konstnärs hela bildproduktion, eller alla fotografier som föreställde en viss person, behövde inte heller förändra den genererade bilden på ett tydligt sätt.

I den mening som studien mäter innebär det att materialet inte kan tillskrivas ett visst utdata. Om resultatet förblir oförändrat när en träningsenhet tas bort, kan den inte ges kausalt ansvar för just det resultatet enligt forskarnas mått.

Vad kan det betyda för upphovsrätten?

Resultatet kan göra en viss typ av argumentation svårare i rättstvister mot bildmodellföretag, exempelvis när en kärande vill hävda att ett specifikt resultat orsakades av en namngiven konstnärs verk eller av kopior av konstnärens stil. Om en konstnärs hela bildkorpus tas bort utan att resultatet förändras kan det bli svårt att bevisa ett direkt, specifikt orsakssamband mellan materialet och just den bilden.

Studien avgör däremot inte sådana tvister och skapar ingen juridisk regel. Upphovsrättsmål kan också handla om otillåten kopiering under träningen, väsentlig likhet mellan ett visst resultat och ett skyddat verk, tillgång till materialet, marknadsskada, avtalsvillkor och andra frågor.

Viktiga begränsningar

Det är inte ett bevis på att modeller inte memorerar material. En bild kan sakna mätbar påverkan enligt borttagningstestet, samtidigt som modellen ändå har memorerat information, kan återskapa materialet med vissa uppmaningar eller samplingförhållanden eller genererar något som är väsentligt likt ett skyddat verk. Studien mäter känsligheten för att ta bort träningsenheter – inte alla former av memorering eller intrång.

Resultatet gäller inte automatiskt stora språkmodeller. Studien handlar specifikt om diffusionsmodeller, som används för att skapa bilder och annat audiovisuellt innehåll. Att metoden fungerar där innebär inte att samma empiriska skalningseffekt har visats för transformerbaserade stora språkmodeller.

Attributionsförfall ersätter inte annan bevisning. Domstolar och tekniska utredare skulle fortfarande kunna behöva analysera reproduktion efter specifika uppmaningar, likhet och proveniens, träningsdata, systemloggar, modellrevisioner och tillämplig lagstiftning.

Studien säger alltså inte att kopiering aldrig kan bevisas. Den visar snarare att en enkel förklaring där ett specifikt verk ensamt orsakar ett visst AI-resultat kan bli svårare att belägga när modellen tränas på mycket stora datamängder.