什么是扩散模型中的“归因衰减”？

郑代（Zheng Dai）与 David Gifford 领导的 MIT 计算机科学与人工智能实验室（CSAIL）研究发现，扩散式图像生成器存在一种被称为“归因衰减”（attribution decay）的现象：当模型使用越来越大的数据集训练时，单个训练样本对某一张生成图像的因果影响可能逐渐缩小，最终小到无法检测。

这里的“归因”指的是：如果从训练过程中移除某个样本，模型生成的特定结果是否会发生可测量的变化。研究结论并不是说训练图片没有被模型使用，也不是说模型不可能记忆或重现训练内容。

研究人员如何进行测试

传统方法通常只能近似估计某张图片对模型输出的影响。为获得更接近精确反事实的测试结果，研究人员搭建了一个“扩散模型集成”（diffusion ensemble）架构：多个独立训练的模型组件分别接触训练数据的受控切片。

这样一来，当研究人员想回答“如果这张图片从训练数据中消失，结果会怎样”时，就可以关闭所有曾经接触过该图片的组件，而不必重新训练一个完整的单体模型。这个设计让他们能够系统地比较原始输出与移除某个训练单元后的“反事实”输出。

研究团队还将这种集成架构与 24 个使用相同数据训练的传统扩散模型进行比较，并报告称，两者在常见图像质量指标上的表现大致相当。

在覆盖 7 个公开图像数据集的 24 个模型集成中，数据集规模从 256 张图片到超过 16 万张图片。研究人员为每个模型生成原始图像，并进一步构建一个“反事实宇宙”：逐一省略候选训练单元，观察输出相对于原图的变化。

他们把某个被移除训练单元造成的最大输出差异称为“反事实半径”（counterfactual radius），用来衡量该训练单元对生成结果的最大因果影响。

“归因衰减”意味着什么

研究显示，随着数据集规模扩大，反事实半径总体下降。换句话说，移除某一张训练图片，越来越不容易让模型生成的特定图像发生明显变化。

在足够大的数据规模下，类似现象甚至可能扩展到更大的类别：移除某位艺术家的全部作品，或移除所有描绘某个特定人物的照片，往往也不会让某个生成样本出现明显改变。

按照这项研究采用的反事实标准，如果移除一个训练单元并不会改变输出，就很难在该标准下把这个训练单元认定为该输出的因果责任来源。这正是研究人员所说的“归因衰减”。

对生成式人工智能版权争议的影响

这项结果可能让一种特定的侵权论证变得更加困难：原告若主张某个生成结果是由某位艺术家的作品，或由模仿该艺术家风格的训练样本直接造成的，就可能需要证明该艺术家的作品对这一具体输出产生了可识别的因果贡献。

如果移除该艺术家的全部作品后，生成结果基本不变，那么“该艺术家作品直接导致这一输出”的论证会面临技术上的挑战。

不过，研究并没有裁定任何具体案件，也没有建立一条新的法律规则。图像生成模型相关的版权争议还可能涉及未经授权的训练复制、特定输出与既有作品之间的实质性相似、模型或公司是否接触过相关作品、市场损害、合同条款等问题。

这项研究不能说明什么

它不是“模型不会记忆”的结论。 一张图片在删除测试中无法被归因于某个输出，并不意味着模型从未记住相关内容。模型仍可能在特定提示词、采样方式或其他条件下重现训练材料，也可能生成与受保护作品高度相似的图像。研究测试的是删除训练单元后的因果敏感性，而不是所有形式的记忆或侵权。

它也不是关于大语言模型的结论。 研究对象是用于生成图像等视听内容的扩散模型。其集成与消融方法，以及关于数据规模的实证结果，不能直接推导出同样适用于基于 Transformer 的大语言模型。

它不能取代其他证据。 法院和技术调查人员仍可能需要结合提示词复现测试、相似性分析、来源追踪、训练数据与系统记录、模型审计，以及具体适用的法律标准进行判断。

因此，“归因衰减”更准确的含义是：当训练数据规模扩大时，单一来源对单个输出的因果解释可能失效；它并不意味着复制行为无法通过其他证据得到证明。