MIT: AI-afbeeldingen worden moeilijker te herleiden naarmate modellen groeien

Dat betekent niet dat een afbeelding helemaal geen rol heeft gespeeld in het algemene leerproces van het model. Het betekent dat de individuele causale bijdrage van die afbeelding aan één specifieke output in de verwijderingstest te klein kan zijn om nog te meten.

Hoe werkte het ‘diffusion ensemble’?

Deze vraag rechtstreeks onderzoeken is lastig. Bij een gebruikelijke aanpak zou een model opnieuw worden getraind nadat één bronafbeelding is verwijderd. Vervolgens zouden onderzoekers de nieuwe output met de oorspronkelijke moeten vergelijken. Dat proces herhalen voor afzonderlijke afbeeldingen, kunstenaars of personen is kostbaar. Bovendien verwijderen benaderende methoden mogelijk niet alle gevolgen die trainingsdata later in het model heeft gehad.

Dai en Gifford ontwierpen daarom een diffusion ensemble: een verzameling kleinere diffusiecomponenten die op verschillende, deels overlappende delen van de dataset werden getraind. Om de invloed van een bron te testen, konden de onderzoekers de componenten uitschakelen die die bron hadden gezien. Zo kregen ze een tegenfeitelijke output — wat het model zou hebben gegenereerd zonder die bron — zonder het hele systeem opnieuw te trainen.

De methode werd vergeleken met 24 conventionele diffusie-modellen die op dezelfde data waren getraind. Volgens standaardmetingen was de kwaliteit van de outputs in grote lijnen vergelijkbaar.

Binnen deze architectuur konden de onderzoekers de verwijdering exact uitvoeren. Als de output niet veranderde nadat alle componenten die een bepaalde bron hadden gezien waren uitgeschakeld, leverde de test geen meetbaar bewijs dat die bron de output had veroorzaakt.

Wat betekent dit voor auteursrechtszaken?

‘Attribution decay’ kan een specifiek soort claim moeilijker maken: de stelling dat een bepaalde gegenereerde afbeelding is veroorzaakt door, of gekopieerd van, één werk van een eiser of van diens volledige oeuvre. Als het verwijderen van dat materiaal in een exacte tegenfeitelijke test geen verschil maakt, biedt die test weinig basis om de output aan die bron toe te schrijven.

Dat kan relevant worden in geschillen rond beeldgeneratoren en modelontwikkelaars, waaronder bedrijven als Midjourney, OpenAI en Microsoft. De studie spreekt zich echter niet uit over de juridische aansprakelijkheid van een van deze bedrijven. De onderzoekers laten vooral zien hoe lastig het kan zijn om een directe causale link te leggen tussen individuele trainingsdata en individuele outputs.

Daarmee blijven verschillende juridische en technische vragen open:

• Hoe is de trainingsdata verkregen? De studie bepaalt niet of het verzamelen of gebruiken van een auteursrechtelijk beschermd werk voor training rechtmatig was.
• Lijkt de output substantieel op een beschermd werk? Visuele gelijkenis kan relevant zijn, ook wanneer de output moeilijk aan één trainingsbestand is toe te schrijven.
• Heeft het model een voorbeeld onthouden of gereproduceerd? In sommige situaties kunnen modellen trainingsmateriaal onthouden en opnieuw genereren. Dat is iets anders dan aantonen dat elke output aan één specifieke bron is toe te schrijven.
• Was het systeem ingesteld om een kunstenaar na te bootsen? Gerichte prompts, fine-tuning of ander modelgedrag kunnen bewijs opleveren dat niet wordt gevangen in een verwijderingstest met één afbeelding.

In de praktijk zullen rechtbanken en onderzoekers daarom mogelijk naar een breder dossier moeten kijken: registraties van dataverzameling, informatie over herkomst en provenance, directe vergelijkingen van afbeeldingen, tests met gerichte prompts, bewijs over modelgedrag en deskundigenanalyses. Dat volgt uit de studiebevinding dat één-op-één-toeschrijving bij grote datasets onbetrouwbaarder wordt; het is geen nieuwe rechtsregel die door het onderzoek is vastgesteld.

Geen vrijbrief voor AI-ontwikkelaars

‘Attribution decay’ betekent niet dat diffusie-modellen nooit kopiëren. De studie laat zien dat de meetbare invloed van één bron verwaarloosbaar kan worden naarmate de trainingsdataset groeit. In bepaalde omstandigheden kunnen modellen nog altijd trainingsvoorbeelden onthouden of reproduceren.

Ook is de reikwijdte van het onderzoek beperkt. De onderzoekers bestudeerden diffusie-gebaseerde beeldgeneratoren. De resultaten mogen daarom niet automatisch worden doorgetrokken naar taalmodellen of andere generatieve architecturen.

De meest nauwkeurige conclusie is dan ook voorzichtig: grote diffusie-systemen kunnen het moeilijker maken om één gegenereerde afbeelding aan één specifieke bron of kunstenaar toe te schrijven, zelfs wanneer die bron in de trainingsdata zat. Dat kan één route om verantwoordelijkheid voor een specifieke output aan te tonen verzwakken, maar laat bredere vragen over trainingspraktijken, kopiëren, imitatie en intellectuele-eigendomsrechten onbeantwoord.