Le « déclin de l’attribution » brouille la trace des images utilisées par l’IA

Une image produite par une IA peut-elle être reliée à une photographie, à un artiste ou à une œuvre précise présente dans ses données d’entraînement ? Selon les travaux de Zheng Dai et David Gifford, chercheurs du MIT CSAIL — le laboratoire d’informatique et d’intelligence artificielle du Massachusetts Institute of Technology — la réponse devient souvent difficile à établir lorsque le modèle apprend sur des volumes de données importants.

Les chercheurs décrivent ce phénomène sous le nom d’« attribution decay », que l’on peut traduire par « déclin de l’attribution ». L’idée est simple : plus un générateur d’images par diffusion est entraîné sur un grand nombre d’images, moins chacune d’elles semble peser, à elle seule, sur une sortie donnée. À une certaine échelle, retirer une image précise, voire l’ensemble des œuvres d’un artiste, peut ne produire aucune modification détectable du résultat.

Une méthode pour mesurer l’effet réel d’une image

Plutôt que d’estimer mathématiquement l’influence de chaque image, l’équipe a construit une architecture appelée « diffusion ensemble ». Elle regroupe de nombreux composants de diffusion plus petits, chacun entraîné sur une portion différente des données.

Pour créer un modèle contrefactuel — autrement dit, pour observer ce qui se serait passé sans une source donnée — les chercheurs ont désactivé tous les composants ayant vu cette source. Cette méthode permettait d’éviter de réentraîner le modèle et de limiter les approximations.

Les résultats ont ensuite été comparés à ceux de 24 modèles de diffusion classiques entraînés sur les mêmes données. Selon l’étude, les deux approches produisaient des résultats d’une qualité globalement comparable selon les mesures standards.

Les expériences ont porté sur des ensembles de données comptant entre 256 et plus de 160 000 images. Les chercheurs ont successivement retiré :

• une image individuelle ;
• toutes les œuvres attribuées à un artiste donné ;
• toutes les photographies représentant une personne donnée.

À mesure que les ensembles de données augmentaient, la suppression de ces sources entraînait souvent un changement imperceptible dans les images générées. C’est cette diminution de l’effet mesurable d’une source particulière que les auteurs appellent le « déclin de l’attribution ».

Un résultat important pour les procès liés au droit d’auteur

Cette découverte pourrait compliquer les plaintes affirmant qu’une image produite par un système associé à Midjourney, OpenAI ou Microsoft a été causée par — ou copiée depuis — une image précise appartenant au plaignant. Si le retrait exact de cette image ne modifie pas la sortie concernée, ce test contrefactuel apporte peu d’éléments pour lui attribuer causalement cette production.

Mais l’étude ne constitue pas une décision de justice et ne répond pas aux principales questions juridiques soulevées par l’IA générative. Elle ne détermine pas :

• si une entreprise a copié des œuvres pour constituer ses données d’entraînement ;
• si l’entraînement sur des œuvres protégées constitue une contrefaçon ou relève d’une exception, comme le fair use aux États-Unis ;
• si une sortie est substantiellement similaire à une œuvre protégée ;
• ou si un modèle a été volontairement configuré ou sollicité pour imiter un artiste.

Le travail porte plus précisément sur l’attribution causale d’une sortie à une source individuelle. Il ne tranche donc pas la légalité de la collecte des données ni celle de l’utilisation commerciale des modèles.

Pas de « laissez-passer » pour les générateurs d’images

Le déclin de l’attribution ne signifie pas que les modèles de diffusion sont incapables de mémoriser des images. Dans certaines situations, ils peuvent encore reproduire ou mémoriser des exemples présents dans leurs données d’entraînement. Le résultat du MIT indique seulement que l’effet d’une source individuelle devient souvent impossible à mesurer lorsque la taille de la base augmente ; il ne signifie pas que la copie n’existe jamais.

Autre limite : les expériences concernent les générateurs d’images fondés sur la diffusion. On ne peut donc pas généraliser automatiquement leurs conclusions aux modèles de langage ou à d’autres architectures génératives.

En pratique, les tribunaux pourraient devoir s’appuyer sur un ensemble d’indices plus large que la simple correspondance entre une image d’entraînement et une sortie. Les dossiers d’acquisition des données, les similitudes directes, le comportement du modèle face à des requêtes ciblées, les informations de provenance et les expertises techniques pourraient continuer à jouer un rôle important. Cette conclusion découle de la difficulté mise en évidence par l’étude à attribuer une sortie individuelle à une source précise lorsque le modèle est entraîné à grande échelle.