“Attribution decay”: quando l’IA rende quasi invisibile il contributo di una singola immagine

I test hanno riguardato dataset composti da 256 immagini fino a oltre 160.000 elementi. I ricercatori hanno rimosso, di volta in volta:

• una singola immagine;
• tutte le opere di un determinato artista;
• tutte le fotografie raffiguranti una certa persona.

Quando le dimensioni del dataset aumentavano, la rimozione di una di queste fonti spesso non produceva cambiamenti apprezzabili nell’immagine generata. È proprio questa diminuzione dell’effetto misurabile della singola fonte a essere definita attribution decay.

Cosa può cambiare nelle cause sul copyright

Il risultato potrebbe complicare le controversie in cui si sostiene che un’immagine prodotta da un sistema collegato, per esempio, a Midjourney, OpenAI o Microsoft sia stata causata o copiata da una specifica opera del ricorrente. Se eliminare esattamente quell’opera — o anche l’intero insieme di lavori dell’artista — lascia invariato l’output rilevante, questo particolare test controfattuale offre una base limitata per attribuire quell’immagine alla fonte rimossa.

Ma lo studio non decide le questioni giuridiche più ampie. Restano da valutare, tra gli altri aspetti:

• se le aziende abbiano copiato le opere per creare i dataset di addestramento;
• se l’addestramento costituisca una violazione del diritto d’autore o rientri nel fair use, dove applicabile;
• se l’output sia sostanzialmente simile a un’opera protetta;
• se il modello sia stato richiesto o configurato intenzionalmente per imitare un artista.

La ricerca fornisce quindi evidenze sulla possibilità di attribuire causalmente un determinato output a una fonte specifica, ma non rappresenta una sentenza né una valutazione definitiva della liceità dei sistemi di IA.

Perché non è un “via libera” all’uso dei dati protetti

I modelli di diffusione possono ancora memorizzare o riprodurre esempi presenti nei dati di addestramento in determinate condizioni. L’attribution decay indica che l’effetto della singola fonte diventa spesso non misurabile quando la scala dei dati cresce: non dimostra che la copia non avvenga mai.

Inoltre, l’analisi riguarda i generatori di immagini basati sulla diffusione e non può essere estesa automaticamente ai modelli linguistici o ad altre architetture generative.

Per questo, nei procedimenti giudiziari potrebbe essere necessario raccogliere prove diverse dal semplice collegamento “una specifica immagine di addestramento-un determinato output”: documenti sull’acquisizione dei dati, confronti diretti di somiglianza, test del comportamento del modello con prompt mirati, informazioni sulla provenienza dei contenuti e valutazioni di esperti. Questa è una conseguenza interpretativa della difficoltà, mostrata dallo studio, di attribuire a una singola fonte la causa di un output quando il dataset raggiunge grandi dimensioni.