Les chercheurs ont également testé des suppressions plus larges : l’ensemble des œuvres d’un artiste et toutes les photographies d’une personne donnée. Leurs résultats indiquent que ces retraits peuvent eux aussi entraîner peu ou pas de changement mesurable lorsque le modèle et la base de données sont suffisamment importants. Les expériences ont porté sur 24 ensembles de modèles de diffusion et sur des bases comprenant de 256 à plus de 160 000 images.

Cela ne signifie pas qu’une image n’a joué aucun rôle dans l’apprentissage global du modèle. Cela signifie que, pour un résultat précis et dans le cadre du test de suppression utilisé, sa contribution causale individuelle peut être trop faible pour être détectée.

Une architecture pour tester l’influence d’une image

Vérifier directement ce lien est difficile. La méthode classique consisterait à réentraîner un modèle après avoir retiré une image source, puis à comparer le nouveau résultat à l’original. Répéter l’opération pour chaque image, artiste ou sujet serait coûteux. Les méthodes approximatives, elles, risquent de ne pas supprimer tous les effets indirects de la donnée dans le modèle.

Dai et Gifford ont donc conçu un « diffusion ensemble » : plusieurs composants de diffusion plus petits, entraînés sur des sous-ensembles de données différents mais qui se recoupent. Pour mesurer l’influence d’une source, les chercheurs pouvaient désactiver les composants qui avaient vu cette source, puis générer le résultat contrefactuel — autrement dit, celui que le système aurait produit sans elle — sans réentraîner l’ensemble du modèle.

Ils ont comparé cette architecture à 24 modèles de diffusion classiques entraînés sur les mêmes données. Selon les mesures standard utilisées, la qualité des images produites était globalement comparable.

Cette méthode permettait un test de suppression exact dans l’architecture étudiée : si le résultat restait identique après la désactivation de tous les composants exposés à une source, l’expérience ne fournissait aucun élément mesurable permettant d’affirmer que cette source avait causé ce résultat.

Ce que cela pourrait changer dans les procès liés au droit d’auteur

L’attribution decay pourrait compliquer un type précis d’argument juridique : celui selon lequel une image générée a été causée par l’œuvre d’un plaignant, ou copiée à partir d’une image déterminée ou de l’ensemble de sa production artistique. Si la suppression exacte de cette source ne modifie pas le résultat concerné, ce test contrefactuel apporte peu d’éléments pour attribuer ce résultat à l’œuvre retirée.

Le problème pourrait se poser dans des litiges visant des services de génération d’images ou les entreprises qui développent leurs modèles, notamment Midjourney, OpenAI ou Microsoft. Mais l’étude ne se prononce pas sur la responsabilité juridique de ces sociétés. Elle apporte des éléments scientifiques sur la difficulté d’établir un lien causal entre une donnée d’entraînement individuelle et une image produite.

Plusieurs questions distinctes restent donc ouvertes :

• Comment les données ont-elles été obtenues ? L’étude ne dit pas si la collecte ou l’utilisation d’une œuvre protégée pour entraîner un modèle était légale.
• L’image générée est-elle substantiellement similaire à une œuvre protégée ? Une ressemblance visuelle peut avoir son importance même lorsqu’il est difficile d’attribuer causalement le résultat à un fichier précis.
• Le système a-t-il mémorisé ou reproduit un exemple ? Dans certaines situations, un modèle peut reproduire des éléments de ses données d’entraînement. Cela ne revient pas à démontrer que chaque résultat est attribuable à une seule source.
• Le modèle a-t-il été configuré pour imiter un artiste ? Des invites ciblées, un réglage fin du modèle ou d’autres comportements peuvent constituer des indices que le test de suppression d’une image ne permet pas nécessairement de saisir.

En pratique, les tribunaux et les enquêteurs pourraient devoir examiner un faisceau d’éléments plus large : documents sur l’acquisition des données, informations de provenance, analyse directe des ressemblances, tests avec des invites ciblées, comportement du modèle et expertises techniques. Cette perspective découle de la difficulté démontrée par l’étude à relier une source individuelle à un résultat précis lorsque l’échelle augmente ; elle ne constitue pas une nouvelle règle de droit.

Pourquoi cette découverte ne constitue pas un blanc-seing pour les développeurs

Il serait erroné d’en conclure que les modèles de diffusion ne copient jamais. L’étude montre que l’influence mesurable d’une source individuelle peut devenir négligeable lorsque les bases d’entraînement grandissent. Dans certains contextes, les modèles peuvent toujours mémoriser ou reproduire des exemples issus de leurs données d’apprentissage.

La portée de la recherche est également limitée aux générateurs d’images fondés sur la diffusion. Ses résultats ne peuvent pas être automatiquement transposés aux modèles de langage ou à d’autres architectures génératives.

La lecture la plus prudente est donc la suivante : les grands systèmes de diffusion peuvent rendre plus difficile l’attribution d’une image à une source, même lorsque la base d’entraînement contient une image particulière ou les œuvres d’un artiste. Cette évolution peut affaiblir une voie de preuve visant à établir la responsabilité pour un résultat précis, tout en laissant entières les questions plus larges sur les pratiques d’entraînement, la copie, l’imitation et les droits de propriété intellectuelle.

Les chercheurs ont également testé des suppressions plus larges : l’ensemble des œuvres d’un artiste et toutes les photographies d’une personne donnée. Leurs résultats indiquent que ces retraits peuvent eux aussi entraîner peu ou pas de changement mesurable lorsque le modèle et la base de données sont suffisamment importants. Les expériences ont porté sur 24 ensembles de modèles de diffusion et sur des bases comprenant de 256 à plus de 160 000 images.

Cela ne signifie pas qu’une image n’a joué aucun rôle dans l’apprentissage global du modèle. Cela signifie que, pour un résultat précis et dans le cadre du test de suppression utilisé, sa contribution causale individuelle peut être trop faible pour être détectée.

Une architecture pour tester l’influence d’une image

Vérifier directement ce lien est difficile. La méthode classique consisterait à réentraîner un modèle après avoir retiré une image source, puis à comparer le nouveau résultat à l’original. Répéter l’opération pour chaque image, artiste ou sujet serait coûteux. Les méthodes approximatives, elles, risquent de ne pas supprimer tous les effets indirects de la donnée dans le modèle.

Dai et Gifford ont donc conçu un « diffusion ensemble » : plusieurs composants de diffusion plus petits, entraînés sur des sous-ensembles de données différents mais qui se recoupent. Pour mesurer l’influence d’une source, les chercheurs pouvaient désactiver les composants qui avaient vu cette source, puis générer le résultat contrefactuel — autrement dit, celui que le système aurait produit sans elle — sans réentraîner l’ensemble du modèle.

Ils ont comparé cette architecture à 24 modèles de diffusion classiques entraînés sur les mêmes données. Selon les mesures standard utilisées, la qualité des images produites était globalement comparable.

Cette méthode permettait un test de suppression exact dans l’architecture étudiée : si le résultat restait identique après la désactivation de tous les composants exposés à une source, l’expérience ne fournissait aucun élément mesurable permettant d’affirmer que cette source avait causé ce résultat.

Ce que cela pourrait changer dans les procès liés au droit d’auteur

L’attribution decay pourrait compliquer un type précis d’argument juridique : celui selon lequel une image générée a été causée par l’œuvre d’un plaignant, ou copiée à partir d’une image déterminée ou de l’ensemble de sa production artistique. Si la suppression exacte de cette source ne modifie pas le résultat concerné, ce test contrefactuel apporte peu d’éléments pour attribuer ce résultat à l’œuvre retirée.

Le problème pourrait se poser dans des litiges visant des services de génération d’images ou les entreprises qui développent leurs modèles, notamment Midjourney, OpenAI ou Microsoft. Mais l’étude ne se prononce pas sur la responsabilité juridique de ces sociétés. Elle apporte des éléments scientifiques sur la difficulté d’établir un lien causal entre une donnée d’entraînement individuelle et une image produite.

Plusieurs questions distinctes restent donc ouvertes :

• Comment les données ont-elles été obtenues ? L’étude ne dit pas si la collecte ou l’utilisation d’une œuvre protégée pour entraîner un modèle était légale.
• L’image générée est-elle substantiellement similaire à une œuvre protégée ? Une ressemblance visuelle peut avoir son importance même lorsqu’il est difficile d’attribuer causalement le résultat à un fichier précis.
• Le système a-t-il mémorisé ou reproduit un exemple ? Dans certaines situations, un modèle peut reproduire des éléments de ses données d’entraînement. Cela ne revient pas à démontrer que chaque résultat est attribuable à une seule source.
• Le modèle a-t-il été configuré pour imiter un artiste ? Des invites ciblées, un réglage fin du modèle ou d’autres comportements peuvent constituer des indices que le test de suppression d’une image ne permet pas nécessairement de saisir.

En pratique, les tribunaux et les enquêteurs pourraient devoir examiner un faisceau d’éléments plus large : documents sur l’acquisition des données, informations de provenance, analyse directe des ressemblances, tests avec des invites ciblées, comportement du modèle et expertises techniques. Cette perspective découle de la difficulté démontrée par l’étude à relier une source individuelle à un résultat précis lorsque l’échelle augmente ; elle ne constitue pas une nouvelle règle de droit.

Pourquoi cette découverte ne constitue pas un blanc-seing pour les développeurs

Il serait erroné d’en conclure que les modèles de diffusion ne copient jamais. L’étude montre que l’influence mesurable d’une source individuelle peut devenir négligeable lorsque les bases d’entraînement grandissent. Dans certains contextes, les modèles peuvent toujours mémoriser ou reproduire des exemples issus de leurs données d’apprentissage.

La portée de la recherche est également limitée aux générateurs d’images fondés sur la diffusion. Ses résultats ne peuvent pas être automatiquement transposés aux modèles de langage ou à d’autres architectures génératives.

La lecture la plus prudente est donc la suivante : les grands systèmes de diffusion peuvent rendre plus difficile l’attribution d’une image à une source, même lorsque la base d’entraînement contient une image particulière ou les œuvres d’un artiste. Cette évolution peut affaiblir une voie de preuve visant à établir la responsabilité pour un résultat précis, tout en laissant entières les questions plus larges sur les pratiques d’entraînement, la copie, l’imitation et les droits de propriété intellectuelle.