L’ensemble è formato da componenti addestrati in modo indipendente. Ogni componente viene esposto a una porzione attentamente progettata dei dati complessivi. In questo modo i ricercatori possono chiedersi: che cosa avrebbe generato il modello se questa immagine non avesse influenzato l’addestramento?

Invece di riaddestrare da zero un unico modello di grandi dimensioni, possono disattivare i componenti che avevano visto l’immagine selezionata e produrre un output di confronto. Si tratta quindi di un’ablazione dell’influenza dell’immagine, non soltanto di una sua stima approssimativa.

Il gruppo ha valutato 24 diffusion ensemble su sette raccolte pubbliche di immagini. I dataset andavano da 256 immagini a oltre 160.000, permettendo di osservare come cambiasse l’attribuzione all’aumentare della quantità di dati. Per ogni prova, i ricercatori hanno confrontato una generazione originale con versioni controfattuali ottenute omettendo le unità di addestramento candidate.

La maggiore differenza misurata tra l’output originale e quelli controfattuali è stata definita counterfactual radius, ovvero “raggio controfattuale”. Questa misura indica quanto una singola unità rimossa possa modificare il risultato.

Che cosa significa “attribution decay”

Il raggio controfattuale diminuiva man mano che crescevano i dataset. In termini pratici, rimuovere una singola immagine produceva sempre più spesso un risultato difficile da distinguere dall’originale secondo la metrica usata nello studio.

L’implicazione è controintuitiva: aggiungere più dati di addestramento può rendere un’immagine generata meno attribuibile a un singolo esempio, anche quando quell’esempio faceva parte del dataset. Il modello può apprendere schemi generali e sovrapposti da molte fonti, invece di dipendere da una sola immagine identificabile per generare un determinato risultato.

A scale sufficientemente grandi, l’effetto non riguardava soltanto le singole immagini. Secondo lo studio, rimuovere tutte le immagini di un artista o tutte le fotografie raffiguranti una determinata persona poteva lasciare il campione generato sostanzialmente invariato nell’ambito del test controfattuale.

Per questo i ricercatori parlano di “decadimento” e non di una semplice incapacità degli strumenti di rilevazione. Il problema potrebbe non essere soltanto la mancanza di un metodo abbastanza potente: la connessione causale tra una fonte e uno specifico output può diventare così diffusa da non poter più essere isolata.

Possibili conseguenze per le cause sul copyright

L’attribution decay potrebbe rendere più difficile dimostrare una particolare teoria alla base di una causa: quella secondo cui un output contestato sarebbe stato causato direttamente dalle opere di un artista identificato, o dalle copie di quelle opere presenti nei dati di addestramento.

Se la rimozione dell’intero archivio di un artista non modifica in modo rilevante l’output, diventa più complicato sostenere che quel corpus fosse individualmente necessario per produrre proprio quell’immagine secondo questo test causale. La scoperta può quindi complicare alcuni contenziosi sulla proprietà intellettuale che coinvolgono generatori di immagini e accuse di imitazione dello stile degli artisti.

Ma lo studio non stabilisce se un’azienda abbia violato il copyright e non costituisce, da solo, una difesa legale. Una controversia può riguardare questioni diverse: se le opere protette siano state copiate durante l’addestramento, se un output sia sostanzialmente simile a un’opera tutelata, che cosa il sistema riesca a riprodurre con determinati prompt, quali danni siano stati causati o quali obblighi contrattuali si applichino.

In breve, “non attribuibile” in senso tecnico non equivale a “non copiato” in senso giuridico.

Perché il risultato non dimostra che i modelli non memorizzino

L’esperimento misura la sensibilità del modello alla rimozione di specifiche unità di addestramento. Non verifica ogni possibile forma di conservazione o riproduzione delle informazioni.

Un modello può mostrare una dipendenza minima da una singola immagine nel test di cancellazione dell’ensemble e, allo stesso tempo, riprodurre un’opera in risposta a determinati prompt o con specifiche condizioni di campionamento. Un output può inoltre ricordare un’opera protetta anche quando nessuna singola immagine di addestramento risulta causalmente indispensabile per generarlo.

Sono quindi tre affermazioni diverse:

• “Questa immagine ha influenzato l’output”: il test di rimozione rileva un cambiamento misurabile quando l’influenza dell’immagine viene eliminata.
• “Il modello ha visto o conservato l’immagine”: il modello è stato esposto all’immagine o potrebbe averne memorizzato alcuni aspetti.
• “L’output copia un’opera protetta”: è una conclusione tecnica e giuridica che richiede ulteriori elementi.

L’attribution decay riguarda direttamente la prima domanda. Non risolve la seconda né la terza.

Il risultato non si applica ancora ai grandi modelli linguistici

Lo studio riguarda modelli generativi di diffusione per immagini e media audiovisivi correlati. L’architettura a ensemble e il comportamento osservato con l’aumento della scala non possono essere estesi automaticamente ai grandi modelli linguistici basati su Transformer.

I modelli linguistici hanno architetture, procedure di addestramento, rappresentazioni in token e modalità di generazione differenti. Il lavoro può indicare una direzione utile per future ricerche sull’attribuzione, ma non dimostra che lo stesso tipo di decadimento si verifichi anche negli LLM.

Quali prove servirebbero ancora

Quando si cerca di stabilire se un sistema AI abbia copiato un’opera, l’attribution decay è soltanto uno degli elementi da esaminare. I tribunali e gli analisti tecnici potrebbero dover valutare anche:

• la capacità del sistema di riprodurre un’opera specifica con prompt controllati;
• la somiglianza visiva tra l’output e l’opera contestata;
• la provenienza dei dati, l’accesso alle opere e i documenti relativi all’addestramento;
• i risultati degli audit del modello e la documentazione del sistema;
• se l’output rifletta uno stile generale o un’espressione protetta e identificabile;
• gli standard giuridici applicabili alla controversia specifica.

La lezione centrale dello studio è più precisa — e più utile — dell’idea che l’AI “dimentichi” le proprie fonti. Quando i dataset di diffusione crescono, il contributo causale dei singoli esempi può diventare troppo diffuso per essere rilevato in un determinato output. Questo rende più difficile attribuire un’immagine a una fonte, ma non rende impossibili le analisi su memoria, riproduzione o copyright.

L’ensemble è formato da componenti addestrati in modo indipendente. Ogni componente viene esposto a una porzione attentamente progettata dei dati complessivi. In questo modo i ricercatori possono chiedersi: che cosa avrebbe generato il modello se questa immagine non avesse influenzato l’addestramento?

Invece di riaddestrare da zero un unico modello di grandi dimensioni, possono disattivare i componenti che avevano visto l’immagine selezionata e produrre un output di confronto. Si tratta quindi di un’ablazione dell’influenza dell’immagine, non soltanto di una sua stima approssimativa.

Il gruppo ha valutato 24 diffusion ensemble su sette raccolte pubbliche di immagini. I dataset andavano da 256 immagini a oltre 160.000, permettendo di osservare come cambiasse l’attribuzione all’aumentare della quantità di dati. Per ogni prova, i ricercatori hanno confrontato una generazione originale con versioni controfattuali ottenute omettendo le unità di addestramento candidate.

La maggiore differenza misurata tra l’output originale e quelli controfattuali è stata definita counterfactual radius, ovvero “raggio controfattuale”. Questa misura indica quanto una singola unità rimossa possa modificare il risultato.

Che cosa significa “attribution decay”

Il raggio controfattuale diminuiva man mano che crescevano i dataset. In termini pratici, rimuovere una singola immagine produceva sempre più spesso un risultato difficile da distinguere dall’originale secondo la metrica usata nello studio.

L’implicazione è controintuitiva: aggiungere più dati di addestramento può rendere un’immagine generata meno attribuibile a un singolo esempio, anche quando quell’esempio faceva parte del dataset. Il modello può apprendere schemi generali e sovrapposti da molte fonti, invece di dipendere da una sola immagine identificabile per generare un determinato risultato.

A scale sufficientemente grandi, l’effetto non riguardava soltanto le singole immagini. Secondo lo studio, rimuovere tutte le immagini di un artista o tutte le fotografie raffiguranti una determinata persona poteva lasciare il campione generato sostanzialmente invariato nell’ambito del test controfattuale.

Per questo i ricercatori parlano di “decadimento” e non di una semplice incapacità degli strumenti di rilevazione. Il problema potrebbe non essere soltanto la mancanza di un metodo abbastanza potente: la connessione causale tra una fonte e uno specifico output può diventare così diffusa da non poter più essere isolata.

Possibili conseguenze per le cause sul copyright

L’attribution decay potrebbe rendere più difficile dimostrare una particolare teoria alla base di una causa: quella secondo cui un output contestato sarebbe stato causato direttamente dalle opere di un artista identificato, o dalle copie di quelle opere presenti nei dati di addestramento.

Se la rimozione dell’intero archivio di un artista non modifica in modo rilevante l’output, diventa più complicato sostenere che quel corpus fosse individualmente necessario per produrre proprio quell’immagine secondo questo test causale. La scoperta può quindi complicare alcuni contenziosi sulla proprietà intellettuale che coinvolgono generatori di immagini e accuse di imitazione dello stile degli artisti.

Ma lo studio non stabilisce se un’azienda abbia violato il copyright e non costituisce, da solo, una difesa legale. Una controversia può riguardare questioni diverse: se le opere protette siano state copiate durante l’addestramento, se un output sia sostanzialmente simile a un’opera tutelata, che cosa il sistema riesca a riprodurre con determinati prompt, quali danni siano stati causati o quali obblighi contrattuali si applichino.

In breve, “non attribuibile” in senso tecnico non equivale a “non copiato” in senso giuridico.

Perché il risultato non dimostra che i modelli non memorizzino

L’esperimento misura la sensibilità del modello alla rimozione di specifiche unità di addestramento. Non verifica ogni possibile forma di conservazione o riproduzione delle informazioni.

Un modello può mostrare una dipendenza minima da una singola immagine nel test di cancellazione dell’ensemble e, allo stesso tempo, riprodurre un’opera in risposta a determinati prompt o con specifiche condizioni di campionamento. Un output può inoltre ricordare un’opera protetta anche quando nessuna singola immagine di addestramento risulta causalmente indispensabile per generarlo.

Sono quindi tre affermazioni diverse:

• “Questa immagine ha influenzato l’output”: il test di rimozione rileva un cambiamento misurabile quando l’influenza dell’immagine viene eliminata.
• “Il modello ha visto o conservato l’immagine”: il modello è stato esposto all’immagine o potrebbe averne memorizzato alcuni aspetti.
• “L’output copia un’opera protetta”: è una conclusione tecnica e giuridica che richiede ulteriori elementi.

L’attribution decay riguarda direttamente la prima domanda. Non risolve la seconda né la terza.

Il risultato non si applica ancora ai grandi modelli linguistici

Lo studio riguarda modelli generativi di diffusione per immagini e media audiovisivi correlati. L’architettura a ensemble e il comportamento osservato con l’aumento della scala non possono essere estesi automaticamente ai grandi modelli linguistici basati su Transformer.

I modelli linguistici hanno architetture, procedure di addestramento, rappresentazioni in token e modalità di generazione differenti. Il lavoro può indicare una direzione utile per future ricerche sull’attribuzione, ma non dimostra che lo stesso tipo di decadimento si verifichi anche negli LLM.

Quali prove servirebbero ancora

Quando si cerca di stabilire se un sistema AI abbia copiato un’opera, l’attribution decay è soltanto uno degli elementi da esaminare. I tribunali e gli analisti tecnici potrebbero dover valutare anche:

• la capacità del sistema di riprodurre un’opera specifica con prompt controllati;
• la somiglianza visiva tra l’output e l’opera contestata;
• la provenienza dei dati, l’accesso alle opere e i documenti relativi all’addestramento;
• i risultati degli audit del modello e la documentazione del sistema;
• se l’output rifletta uno stile generale o un’espressione protetta e identificabile;
• gli standard giuridici applicabili alla controversia specifica.

La lezione centrale dello studio è più precisa — e più utile — dell’idea che l’AI “dimentichi” le proprie fonti. Quando i dataset di diffusione crescono, il contributo causale dei singoli esempi può diventare troppo diffuso per essere rilevato in un determinato output. Questo rende più difficile attribuire un’immagine a una fonte, ma non rende impossibili le analisi su memoria, riproduzione o copyright.