Hoe testten Dai en Gifford dit?

In plaats van de invloed van een afbeelding alleen wiskundig te schatten, bouwden de onderzoekers een zogenoemd diffusion ensemble. Dat bestaat uit meerdere kleinere diffusiononderdelen die op verschillende delen van de dataset zijn getraind.

Vervolgens konden ze een exacte tegenproef uitvoeren: om een bronafbeelding uit het model te verwijderen, schakelden ze alle onderdelen uit die de afbeelding hadden gezien. Zo hoefden ze het volledige model niet opnieuw te trainen en waren ze minder afhankelijk van benaderingen.

De onderzoekers vergeleken deze aanpak met 24 conventionele diffusionmodellen die op dezelfde gegevens waren getraind. Volgens standaardmetingen leverden die modellen resultaten van grofweg vergelijkbare kwaliteit op.

De tests werden uitgevoerd op datasets met tussen de 256 en meer dan 160.000 afbeeldingen. Daarbij verwijderden de onderzoekers achtereenvolgens:

• één afzonderlijke afbeelding;
• alle werken van één kunstenaar;
• alle foto’s van één persoon.

Bij grotere datasets leidde het verwijderen van zo’n bron vaak niet tot een merkbare verandering in de gegenereerde output. Dat afnemende, meetbare effect van afzonderlijke bronnen noemen de auteurs attributieverval.

Wat betekent dit voor auteursrechtzaken rond AI?

De uitkomst kan claims ingewikkelder maken waarin wordt gesteld dat een specifieke output van een systeem dat wordt geassocieerd met bijvoorbeeld Midjourney, OpenAI of Microsoft door één bepaalde afbeelding — of door het volledige oeuvre van een eiser — is veroorzaakt of daarvan is gekopieerd.

Als het verwijderen van dat materiaal in een exacte tegenproef geen verandering in de relevante output oplevert, biedt juist die causale test weinig basis om de output aan die bron toe te schrijven.

Daarmee zijn de bredere juridische vragen echter niet opgelost. De studie bepaalt niet:

• of een bedrijf auteursrechtelijk beschermd werk heeft gekopieerd bij het samenstellen van trainingsdata;
• of het trainen zelf inbreuk maakt of onder een uitzondering zoals fair use valt;
• of een output substantieel overeenkomt met een beschermd werk;
• of een model bewust is aangestuurd of ingesteld om een kunstenaar na te bootsen.

Het onderzoek gaat dus over de causale toeschrijving van specifieke outputs, niet over een juridische uitspraak over auteursrecht.

Geen ‘vrijbrief’ voor AI-bedrijven

De bevinding betekent niet dat diffusionmodellen niets kunnen onthouden. In sommige situaties kunnen modellen trainingsvoorbeelden memoriseren of reproduceren. Attributieverval houdt alleen in dat het effect van één afzonderlijke bron bij grotere datasets vaak niet meer meetbaar wordt — niet dat kopiëren nooit plaatsvindt.

Bovendien onderzocht het team diffusiongebaseerde beeldgeneratoren. De resultaten kunnen daarom niet zonder meer worden doorgetrokken naar taalmodellen of andere generatieve architecturen.

Voor rechtszaken kan daardoor aanvullend bewijs nodig zijn, zoals gegevens over de verwerving van trainingsdata, directe overeenkomsten tussen werken, modelgedrag bij gerichte prompts, informatie over de herkomst van beelden en deskundigenrapporten. Dat volgt uit de door de studie aangetoonde moeilijkheid om op grote schaal één specifieke bron aan één output te koppelen.

Hoe testten Dai en Gifford dit?

In plaats van de invloed van een afbeelding alleen wiskundig te schatten, bouwden de onderzoekers een zogenoemd diffusion ensemble. Dat bestaat uit meerdere kleinere diffusiononderdelen die op verschillende delen van de dataset zijn getraind.

Vervolgens konden ze een exacte tegenproef uitvoeren: om een bronafbeelding uit het model te verwijderen, schakelden ze alle onderdelen uit die de afbeelding hadden gezien. Zo hoefden ze het volledige model niet opnieuw te trainen en waren ze minder afhankelijk van benaderingen.

De onderzoekers vergeleken deze aanpak met 24 conventionele diffusionmodellen die op dezelfde gegevens waren getraind. Volgens standaardmetingen leverden die modellen resultaten van grofweg vergelijkbare kwaliteit op.

De tests werden uitgevoerd op datasets met tussen de 256 en meer dan 160.000 afbeeldingen. Daarbij verwijderden de onderzoekers achtereenvolgens:

• één afzonderlijke afbeelding;
• alle werken van één kunstenaar;
• alle foto’s van één persoon.

Bij grotere datasets leidde het verwijderen van zo’n bron vaak niet tot een merkbare verandering in de gegenereerde output. Dat afnemende, meetbare effect van afzonderlijke bronnen noemen de auteurs attributieverval.

Wat betekent dit voor auteursrechtzaken rond AI?

De uitkomst kan claims ingewikkelder maken waarin wordt gesteld dat een specifieke output van een systeem dat wordt geassocieerd met bijvoorbeeld Midjourney, OpenAI of Microsoft door één bepaalde afbeelding — of door het volledige oeuvre van een eiser — is veroorzaakt of daarvan is gekopieerd.

Als het verwijderen van dat materiaal in een exacte tegenproef geen verandering in de relevante output oplevert, biedt juist die causale test weinig basis om de output aan die bron toe te schrijven.

Daarmee zijn de bredere juridische vragen echter niet opgelost. De studie bepaalt niet:

• of een bedrijf auteursrechtelijk beschermd werk heeft gekopieerd bij het samenstellen van trainingsdata;
• of het trainen zelf inbreuk maakt of onder een uitzondering zoals fair use valt;
• of een output substantieel overeenkomt met een beschermd werk;
• of een model bewust is aangestuurd of ingesteld om een kunstenaar na te bootsen.

Het onderzoek gaat dus over de causale toeschrijving van specifieke outputs, niet over een juridische uitspraak over auteursrecht.

Geen ‘vrijbrief’ voor AI-bedrijven

De bevinding betekent niet dat diffusionmodellen niets kunnen onthouden. In sommige situaties kunnen modellen trainingsvoorbeelden memoriseren of reproduceren. Attributieverval houdt alleen in dat het effect van één afzonderlijke bron bij grotere datasets vaak niet meer meetbaar wordt — niet dat kopiëren nooit plaatsvindt.

Bovendien onderzocht het team diffusiongebaseerde beeldgeneratoren. De resultaten kunnen daarom niet zonder meer worden doorgetrokken naar taalmodellen of andere generatieve architecturen.

Voor rechtszaken kan daardoor aanvullend bewijs nodig zijn, zoals gegevens over de verwerving van trainingsdata, directe overeenkomsten tussen werken, modelgedrag bij gerichte prompts, informatie over de herkomst van beelden en deskundigenrapporten. Dat volgt uit de door de studie aangetoonde moeilijkheid om op grote schaal één specifieke bron aan één output te koppelen.