資料越多，AI 圖像反而越難找到「出處」？MIT 研究揭示歸因衰減

研究顯示，隨著訓練資料集變大，反事實半徑會下降。換句話說，移除單一影像後，生成結果愈來愈難在研究所採用的測量方法中，與原始結果區分開來。

這個結果有點反直覺：增加更多訓練資料，可能反而令一張生成圖像較難歸因於任何一個特定訓練樣本，即使該樣本確實曾出現在訓練資料中。

一個可能的技術解釋是，模型從大量彼此重疊的來源中學習廣泛的視覺模式。對某個特定輸出而言，模型未必需要依賴一張可被單獨辨認的影像，而是由許多資料共同形成分散的影響。

在資料規模足夠大時，這種現象不只涉及單一影像。研究報告指出，移除某位藝術家的全部作品，或移除所有描繪某位特定人物的照片，在受測的反事實設定中，也可能令生成樣本幾乎沒有變化。

因此，研究人員稱之為「衰減」，而不只是「偵測工具失效」。問題可能不是調查人員缺乏足夠強大的追蹤工具，而是單一來源與單一輸出之間的因果連結本身，已經分散到難以獨立辨識。

對 AI 版權訴訟有甚麼意義？

歸因衰減可能令某一種版權主張更難證明：爭議輸出是由某位具名藝術家的作品，或該藝術家作品的複本，直接造成。

如果在這項因果測試中，移除一位藝術家的完整作品集也沒有令特定輸出出現實質變化，原告便較難主張這個作品集對該張圖像而言是不可或缺的個別來源。研究因此可能令涉及生成式圖像系統、藝術家風格模仿，以及 Midjourney、OpenAI 或 Microsoft 等公司相關爭議的知識產權案件，面對更複雜的舉證問題。

不過，這項研究沒有裁定任何公司是否侵犯版權，也不會自行構成法律抗辯理由。版權爭議可能涉及多個不同問題，包括：

• 訓練期間是否未經授權複製受保護作品；
• 生成結果是否與特定受保護作品構成實質相似；
• 模型在特定提示詞和生成條件下能否重現作品；
• 訓練資料的來源、取得方式及相關紀錄；以及
• 損害、合約義務和適用於個別案件的法律標準。

技術上的「無法歸因」，不能直接等同法律上的「沒有複製」。

歸因衰減不代表模型沒有記憶

這項實驗測試的是：移除某些訓練單位後，模型輸出對這些單位的敏感度有多高。它並沒有涵蓋模型保留或重現資訊的所有方式。

模型可能在刪除測試中顯示出對任何單一影像的低度依賴，但在某些提示詞、取樣設定或生成條件下，仍然能夠重現特定作品。即使沒有任何一張單獨的訓練影像被證明是某個輸出的必要因果來源，輸出仍可能與受保護作品相似。

以下三種說法不能混為一談：

• 這張影像影響了該項輸出： 移除這張影像的影響後，刪除測試發現輸出出現可測量的變化。
• 模型看過或保留了這張影像： 模型曾接觸該影像，或可能記住其中某些資訊。
• 輸出複製了受保護作品： 這是需要額外技術和法律證據才能作出的結論。

歸因衰減主要回答第一個問題，並沒有單獨解決第二或第三個問題。

目前不能直接套用到大型語言模型

這項研究集中於用來生成圖像及相關視聽媒體的擴散模型。研究中的集成架構，以及觀察到的資料規模變化模式，不能自動推論同樣適用於以 Transformer 為基礎的大型語言模型（LLM）。

語言模型在架構、訓練流程、標記表示方式和輸出行為上，都與圖像擴散模型不同。這項研究或許能為未來的資料歸因研究提供實驗方向，但目前並未證明 LLM 也會出現完全相同形式的歸因衰減。

法庭和調查人員仍需檢視哪些證據？

如果爭議核心是 AI 系統是否複製了某件作品，歸因衰減只是其中一項證據。法院和技術調查人員仍可能需要檢視：

• 在受控提示詞下，系統能否重現特定作品；
• 生成結果與被指複製作品之間的視覺相似度；
• 訓練資料的來源、存取紀錄及資料沿革；
• 模型審計結果和系統文件；
• 輸出反映的是廣泛風格，還是可識別、受保護的具體表達；以及
• 適用於個別爭議的法律標準。

這項研究最重要的啟示，並不是 AI「忘記」了自己從哪裡學習。更準確地說，當擴散模型的訓練資料集持續擴大，單一訓練樣本對某個輸出的因果貢獻，可能會分散到難以測量。這會令來源追溯更加困難，卻不代表記憶、重現或版權分析已經失去可能性。