Quando l’AI dimentica l’origine: lo studio del MIT sull’«attribution decay»

Nel complesso, il team ha studiato 24 ensemble costruiti con sette raccolte pubbliche di immagini, con dataset che andavano da 256 a oltre 160.000 immagini. Per ogni caso ha generato un’immagine originale e un’intera «universo controfattuale»: versioni ottenute omettendo, una alla volta, le diverse unità candidate del training set. La massima differenza rispetto all’immagine iniziale è stata definita raggio controfattuale, una misura dell’effetto causale massimo prodotto dalla rimozione di una singola unità.

Che cosa significa «attribution decay»

Con l’aumentare delle dimensioni del dataset, il raggio controfattuale diminuiva. In altre parole, eliminare una sola immagine tendeva a produrre differenze sempre più piccole, fino a non generare alcun cambiamento apprezzabile nell’output.

A scale sufficientemente grandi, lo stesso fenomeno poteva riguardare non soltanto una singola immagine, ma intere categorie: per esempio tutte le opere di un artista o tutte le fotografie che ritraggono una certa persona. Anche rimuovere l’intero gruppo poteva lasciare l’immagine generata sostanzialmente invariata.

Nel linguaggio dello studio, si tratta di una non-attribuzione nel senso controfattuale testato. Se la rimozione di una determinata unità non modifica l’output, a quella unità non può essere assegnata la responsabilità causale di quell’output secondo la misura adottata dai ricercatori.

Le possibili conseguenze per il copyright

Il risultato potrebbe rendere più difficile sostenere, in alcune controversie, una teoria dell’infrazione basata sull’idea che un’uscita specifica sia stata causata direttamente dalle opere di un artista identificato o dalla copia del suo stile. Se anche l’intero corpus dell’artista può essere rimosso senza alterare in modo significativo l’output, dimostrare un contributo causale diretto e specifico diventa più complesso.

Questo, però, non decide le cause legali e non introduce una regola sul copyright. Una controversia può riguardare anche la copia non autorizzata durante l’addestramento, la sostanziale somiglianza tra un’immagine generata e un’opera protetta, l’accesso ai materiali, il danno al mercato, i termini contrattuali o altri elementi che non dipendono dal fatto che una singola immagine fosse indispensabile per una specifica generazione.

I limiti da tenere presenti

• Non significa che il modello non memorizzi: un’immagine può risultare non attribuibile a un singolo elemento secondo questo test di rimozione, mentre il modello può comunque aver memorizzato del materiale, riprodurlo con determinati prompt o condizioni di campionamento, oppure generare un risultato sostanzialmente simile a un’opera protetta. Lo studio misura la sensibilità causale alla rimozione di unità, non ogni forma di memorizzazione o di possibile violazione.
• Non è una conclusione sui grandi modelli linguistici: la ricerca riguarda specificamente i modelli a diffusione, usati per generare contenuti audiovisivi. Il metodo dell’ensemble e il risultato empirico sulla scala dei dati non sono stati dimostrati, per questo solo fatto, nei modelli linguistici di grandi dimensioni basati su Transformer.
• Non sostituisce le altre prove: analisi legali e tecniche dovrebbero comunque considerare test di riproduzione basati sui prompt, confronto della somiglianza, analisi della provenienza, documentazione sui dati e sui sistemi di addestramento e verifiche del modello. L’attribution decay suggerisce che una spiegazione causale riconducibile a un’unica fonte può indebolirsi con la scala; non dimostra che la copia non possa essere provata attraverso altri elementi.