Studio del MIT: le immagini generate dall’IA diventano più difficili da ricondurre ai dati di addestramento

Uno studio dei ricercatori del MIT CSAIL, Zheng Dai e David Gifford, mette in luce un problema che diventa più evidente con l’aumento delle dimensioni dei generatori di immagini basati sulla diffusione: dimostrare che una determinata immagine usata per l’addestramento abbia causato uno specifico risultato può diventare sempre più difficile. Gli autori chiamano questo fenomeno attribution decay, cioè “decadimento dell’attribuzione”.

La scoperta è rilevante nel dibattito sull’arte generata dall’IA e sul copyright, ma va interpretata con precisione. Lo studio riguarda l’attribuzione causale degli output dei modelli di diffusione. Non stabilisce se le aziende potessero raccogliere opere protette, se un’immagine generata sia sostanzialmente simile a un’opera tutelata o se un modello possa riprodurre materiale memorizzato.

Che cos’è l’“attribution decay”

Il meccanismo osservato è relativamente semplice: quando un modello di diffusione apprende da un dataset sempre più ampio, l’influenza misurabile di ogni singolo esempio di addestramento su una specifica immagine generata tende a diminuire. Oltre una certa scala, rimuovere quell’immagine può lasciare l’output praticamente invariato.

I ricercatori hanno provato anche rimozioni più estese: tutte le opere di un determinato artista e tutte le fotografie di una persona specifica. I risultati indicano che, quando modello e dataset sono abbastanza grandi, anche queste rimozioni possono produrre cambiamenti minimi o non misurabili negli output. Gli esperimenti hanno coinvolto 24 ensemble di diffusione e dataset composti da 256 a oltre 160.000 immagini.

Questo non significa che l’immagine rimossa non abbia avuto alcun ruolo nell’addestramento complessivo del modello. Significa piuttosto che, per un determinato output e nel test di rimozione adottato, il suo contributo causale individuale può essere troppo piccolo per essere rilevato.

Come funziona il “diffusion ensemble”

Verificare direttamente l’influenza di un’immagine è complesso. Il metodo tradizionale consisterebbe nel riaddestrare un modello dopo aver eliminato una fonte e nel confrontare il nuovo risultato con quello originale. Ripetere l’operazione per singole immagini, artisti o soggetti sarebbe molto costoso; inoltre, i metodi approssimativi potrebbero non eliminare tutti gli effetti a valle dei dati rimossi.

Dai e Gifford hanno quindi progettato un diffusion ensemble, formato da più componenti di diffusione di dimensioni ridotte, addestrati su sottoinsiemi di dati diversi ma sovrapposti. Per verificare l’influenza di una fonte, i ricercatori potevano disattivare i componenti che avevano “visto” quella fonte e generare così il risultato controfattuale, senza riaddestrare l’intero sistema.

Il metodo è stato confrontato con 24 modelli di diffusione convenzionali addestrati sugli stessi dati. Secondo le misure standard, la qualità degli output era sostanzialmente comparabile.

All’interno dell’architettura studiata, questo approccio ha consentito un test di rimozione esatto: se l’output rimaneva invariato dopo la disattivazione di tutti i componenti esposti a una fonte, l’esperimento non forniva evidenze misurabili che quella fonte avesse causato il risultato.

Cosa può cambiare nelle cause sul copyright

L’attribution decay potrebbe rendere più difficile un tipo specifico di contestazione: sostenere che una particolare immagine generata sia stata causata da, o copiata da, una singola opera dell’attore o dall’intero corpus di un artista. Se la rimozione di quel materiale non modifica l’output in un test controfattuale esatto, il test offre poco sostegno per attribuire quel risultato alla fonte rimossa.

Il problema potrebbe emergere nelle controversie che coinvolgono servizi di generazione di immagini o sviluppatori di modelli, comprese aziende come Midjourney, OpenAI e Microsoft. Tuttavia, lo studio non stabilisce la responsabilità legale di nessuna di queste società: offre evidenze sulla difficoltà di dimostrare un legame causale tra singoli dati di addestramento e singoli output.

Restano aperte diverse domande:

• Come sono stati ottenuti i dati di addestramento? Lo studio non determina se raccogliere o usare un’opera protetta per l’addestramento sia lecito.
• L’output è sostanzialmente simile a un’opera tutelata? La somiglianza visiva può essere rilevante anche quando è difficile attribuire causalmente il risultato a un singolo file.
• Il sistema ha memorizzato o riprodotto un esempio? In alcuni contesti un modello può riprodurre materiale presente nei dati di addestramento; è una questione diversa dal dimostrare che ogni output sia riconducibile a una sola fonte.
• Il sistema è stato configurato per imitare un artista? Prompt mirati, fine-tuning o altri comportamenti del modello possono fornire elementi che un test basato sulla rimozione di una singola immagine non rileva.

In pratica, tribunali e periti potrebbero dover esaminare un quadro probatorio più ampio: documenti sull’acquisizione dei dati, informazioni sulla provenienza dei contenuti, analisi dirette della somiglianza, test con prompt mirati, comportamento del modello e valutazioni di esperti. È una conseguenza interpretativa della difficoltà, dimostrata dallo studio, di stabilire un nesso tra una singola immagine e un singolo output su larga scala; non è una nuova regola giuridica introdotta dalla ricerca.

Perché non è un lasciapassare per gli sviluppatori

L’attribution decay non dimostra che i modelli di diffusione non copino mai. Il risultato è che, quando i dataset crescono, l’influenza misurabile di una singola fonte può diventare trascurabile. In determinate condizioni, i modelli possono comunque memorizzare o riprodurre esempi presenti nei dati di addestramento.

Anche l’ambito dello studio è circoscritto: la ricerca esamina generatori di immagini basati sulla diffusione. I risultati non possono quindi essere estesi automaticamente ai modelli linguistici o ad altre architetture generative.

La lettura più accurata è dunque prudente: i grandi sistemi di diffusione possono rendere più difficile attribuire un output a una singola immagine o alle opere di un artista, anche quando quel materiale era incluso nei dati di addestramento. Questo può indebolire una delle strade per dimostrare la responsabilità relativa a uno specifico risultato, ma non chiude le questioni più ampie su pratiche di addestramento, copia, imitazione e tutela della proprietà intellettuale.