AI學得愈多，反而愈難搵返「出處」？MIT揭示生成圖片的歸因衰減

乜嘢係「歸因衰減」？

研究顯示，隨住訓練數據集變大，反事實半徑會下降。實際意思係：移除一張圖片後，生成結果愈來愈難同原本結果分辨，至少在研究採用的測量方法下是如此。

呢個現象最令人意外的地方係，增加訓練數據，可能令一張生成圖片更難歸因到任何一個單一來源。模型似乎可以從大量來源學到互相重疊的形狀、構圖、色彩和視覺模式，而唔需要依賴其中一張可被單獨識別的圖片，先能夠產生某個結果。

當規模再大，影響甚至唔止係單一圖片。研究報告指，在測試的反事實設定下，移除某位藝術家的全部作品，或者移除所有展示某一個人的照片，生成樣本亦可能基本上沒有變化。

所以研究人員用「衰減」而唔係單純的「偵測失敗」去形容呢個現象。問題未必只係追蹤工具唔夠先進；更深層的可能性係，某一個來源同某一個輸出之間的因果關係本身已經分散到難以獨立抽出。

對AI版權訴訟有咩可能影響？

歸因衰減或會令某一種版權主張較難證明：一張有爭議的AI生成圖片，係由某位具名藝術家的作品，或者由那些作品的複本，直接造成。

如果移除一位藝術家的整個作品集，都沒有令特定輸出出現重大變化，原告就較難單靠這種因果測試，證明該作品集對這張圖片是「個別而必要」的來源。這可能令涉及大型圖片生成服務，以及「AI直接複製藝術家風格」的爭議，變得更加複雜。

但研究沒有裁定任何公司有沒有侵權，亦不會自行構成法律抗辯理由。版權案件可以涉及多個不同問題，包括：訓練期間有沒有未經授權複製受保護作品、輸出同某件作品是否達到實質相似、模型在特定提示詞下可以重現到甚麼程度，以及案件涉及的損害或合約責任。

技術上的「無法歸因」，唔可以直接當成法律上的「沒有複製」。

歸因衰減唔等於AI「冇記憶」

這項實驗測試的是：移除訓練單位後，模型對輸出的敏感程度。它並沒有涵蓋模型保留或重現資訊的所有方式。

模型可能在刪除測試中顯示出對任何一張圖片都沒有很強的個別依賴，但在某些提示詞、抽樣設定或生成條件下，仍然可以重現一件特定作品。即使沒有任何一張訓練圖片被證明是該輸出的「必要原因」，輸出亦可能同受保護作品高度相似。

以下三句說話，意思並不一樣：

• 「這張圖片影響了這個輸出」：刪除該圖片的影響後，測試發現輸出有可量度變化。
• 「模型見過或保留了這張圖片」：模型曾經接觸該圖片，或者可能記住其中某些內容。
• 「這個輸出複製了受保護作品」：需要更多技術證據及法律分析，不能單靠刪除測試下結論。

歸因衰減直接處理的是第一個問題，並沒有解決第二或第三個問題。

暫時唔可以套用到大型語言模型

研究集中於用來生成圖片及相關視聽媒體的擴散模型。其集成架構和觀察到的規模效應，唔可以自動推論到以Transformer為基礎的大型語言模型（LLM）。

語言模型有不同的架構、訓練方法、文字標記方式和輸出行為。今次研究可以為日後的來源歸因實驗提供方向，但並沒有證明LLM亦會出現完全相同形式的歸因衰減。

法庭和技術調查仍然要睇其他證據

如果要判斷一個AI系統有沒有複製某件作品，歸因衰減只係其中一塊拼圖。法院和技術調查人員仍可能需要考慮：

• 在受控提示詞下，系統能否重現某件特定作品；
• 輸出同被指複製的作品之間有幾大視覺相似度；
• 訓練資料的來源、系統取得資料的途徑，以及相關紀錄；
• 模型審計結果和系統文件；
• 輸出反映的是廣泛風格，還是某件作品中可被保護、可識別的表達；以及
• 適用於該宗爭議的法律標準。

這項研究最核心、亦最實用的結論，唔係AI已經「忘記」自己向邊個學習，而係：當擴散模型的訓練數據規模愈來愈大，單一訓練例子對某個輸出的因果貢獻，可能分散到難以偵測。

這會令來源追蹤更加困難，但不代表記憶、重現作品或版權分析已經變得不可能。