研究团队还将这种集成架构与 24 个使用相同数据训练的传统扩散模型进行比较,并报告称,两者在常见图像质量指标上的表现大致相当。
在覆盖 7 个公开图像数据集的 24 个模型集成中,数据集规模从 256 张图片到超过 16 万张图片。研究人员为每个模型生成原始图像,并进一步构建一个“反事实宇宙”:逐一省略候选训练单元,观察输出相对于原图的变化。
他们把某个被移除训练单元造成的最大输出差异称为“反事实半径”(counterfactual radius),用来衡量该训练单元对生成结果的最大因果影响。
研究显示,随着数据集规模扩大,反事实半径总体下降。换句话说,移除某一张训练图片,越来越不容易让模型生成的特定图像发生明显变化。
在足够大的数据规模下,类似现象甚至可能扩展到更大的类别:移除某位艺术家的全部作品,或移除所有描绘某个特定人物的照片,往往也不会让某个生成样本出现明显改变。
按照这项研究采用的反事实标准,如果移除一个训练单元并不会改变输出,就很难在该标准下把这个训练单元认定为该输出的因果责任来源。这正是研究人员所说的“归因衰减”。
这项结果可能让一种特定的侵权论证变得更加困难:原告若主张某个生成结果是由某位艺术家的作品,或由模仿该艺术家风格的训练样本直接造成的,就可能需要证明该艺术家的作品对这一具体输出产生了可识别的因果贡献。
如果移除该艺术家的全部作品后,生成结果基本不变,那么“该艺术家作品直接导致这一输出”的论证会面临技术上的挑战。
不过,研究并没有裁定任何具体案件,也没有建立一条新的法律规则。图像生成模型相关的版权争议还可能涉及未经授权的训练复制、特定输出与既有作品之间的实质性相似、模型或公司是否接触过相关作品、市场损害、合同条款等问题。
它不是“模型不会记忆”的结论。 一张图片在删除测试中无法被归因于某个输出,并不意味着模型从未记住相关内容。模型仍可能在特定提示词、采样方式或其他条件下重现训练材料,也可能生成与受保护作品高度相似的图像。研究测试的是删除训练单元后的因果敏感性,而不是所有形式的记忆或侵权。
它也不是关于大语言模型的结论。 研究对象是用于生成图像等视听内容的扩散模型。其集成与消融方法,以及关于数据规模的实证结果,不能直接推导出同样适用于基于 Transformer 的大语言模型。
它不能取代其他证据。 法院和技术调查人员仍可能需要结合提示词复现测试、相似性分析、来源追踪、训练数据与系统记录、模型审计,以及具体适用的法律标准进行判断。
因此,“归因衰减”更准确的含义是:当训练数据规模扩大时,单一来源对单个输出的因果解释可能失效;它并不意味着复制行为无法通过其他证据得到证明。
研究团队还将这种集成架构与 24 个使用相同数据训练的传统扩散模型进行比较,并报告称,两者在常见图像质量指标上的表现大致相当。
在覆盖 7 个公开图像数据集的 24 个模型集成中,数据集规模从 256 张图片到超过 16 万张图片。研究人员为每个模型生成原始图像,并进一步构建一个“反事实宇宙”:逐一省略候选训练单元,观察输出相对于原图的变化。
他们把某个被移除训练单元造成的最大输出差异称为“反事实半径”(counterfactual radius),用来衡量该训练单元对生成结果的最大因果影响。
研究显示,随着数据集规模扩大,反事实半径总体下降。换句话说,移除某一张训练图片,越来越不容易让模型生成的特定图像发生明显变化。
在足够大的数据规模下,类似现象甚至可能扩展到更大的类别:移除某位艺术家的全部作品,或移除所有描绘某个特定人物的照片,往往也不会让某个生成样本出现明显改变。
按照这项研究采用的反事实标准,如果移除一个训练单元并不会改变输出,就很难在该标准下把这个训练单元认定为该输出的因果责任来源。这正是研究人员所说的“归因衰减”。
这项结果可能让一种特定的侵权论证变得更加困难:原告若主张某个生成结果是由某位艺术家的作品,或由模仿该艺术家风格的训练样本直接造成的,就可能需要证明该艺术家的作品对这一具体输出产生了可识别的因果贡献。
如果移除该艺术家的全部作品后,生成结果基本不变,那么“该艺术家作品直接导致这一输出”的论证会面临技术上的挑战。
不过,研究并没有裁定任何具体案件,也没有建立一条新的法律规则。图像生成模型相关的版权争议还可能涉及未经授权的训练复制、特定输出与既有作品之间的实质性相似、模型或公司是否接触过相关作品、市场损害、合同条款等问题。
它不是“模型不会记忆”的结论。 一张图片在删除测试中无法被归因于某个输出,并不意味着模型从未记住相关内容。模型仍可能在特定提示词、采样方式或其他条件下重现训练材料,也可能生成与受保护作品高度相似的图像。研究测试的是删除训练单元后的因果敏感性,而不是所有形式的记忆或侵权。
它也不是关于大语言模型的结论。 研究对象是用于生成图像等视听内容的扩散模型。其集成与消融方法,以及关于数据规模的实证结果,不能直接推导出同样适用于基于 Transformer 的大语言模型。
它不能取代其他证据。 法院和技术调查人员仍可能需要结合提示词复现测试、相似性分析、来源追踪、训练数据与系统记录、模型审计,以及具体适用的法律标准进行判断。
因此,“归因衰减”更准确的含义是:当训练数据规模扩大时,单一来源对单个输出的因果解释可能失效;它并不意味着复制行为无法通过其他证据得到证明。