AI畫作愈難追溯來源？MIT研究揭示「歸因衰減」現象

鄭戴（Zheng Dai）與 David Gifford 來自麻省理工學院電腦科學及人工智能實驗室（MIT CSAIL）的研究，發現擴散式圖像生成器存在一種他們稱為「歸因衰減」（attribution decay）的現象：模型訓練資料愈多，單一訓練項目對某一張生成圖片的因果影響便可能愈來愈小，最後細到無法可靠偵測。這並不等於訓練圖片從未被模型使用、儲存，或模型永遠不能在其他提示詞及生成條件下重現相關內容。

研究到底點樣測試？

一般做法可能只會估算某張圖片對模型的影響，但研究團隊建立了一個「擴散模型集成」（diffusion ensemble）架構，讓多個獨立訓練的模型元件各自只接觸訓練數據中受控的一部分。

這樣一來，研究人員便可以製造一個較精準的反事實問題：「如果這張圖片從來沒有放入訓練集，結果會點？」他們不需要重新訓練一個龐大的單一模型，而是停用所有曾經看過該圖片的模型元件，再將其餘元件產生的結果，與原本輸出比較。

團隊亦將這種集成架構，與24個使用相同數據訓練的傳統擴散模型比較；兩者在一般圖像質素指標上的表現大致相若。

研究涵蓋7個公開圖像數據集，數據集規模由256張圖片至超過16萬張圖片不等。對每個測試輸出，研究人員都建立一個「反事實宇宙」：逐一省略候選訓練單位，再觀察生成結果與原始輸出之間的最大差異。這個最大差異被稱為「反事實半徑」（counterfactual radius），用來衡量某個被移除單位對輸出的最大因果影響。

「歸因衰減」代表乜嘢？

結果顯示，當數據集變大，移除單一圖片後的反事實半徑會下降。換句話說，訓練資料愈豐富，某一張圖片愈難單獨左右某個生成結果。

在足夠大的規模下，這種情況甚至可能擴展至整個類別：移除某位藝術家的全部作品，或者移除所有描繪某一個人的相片，都未必會令某張生成圖片出現明顯改變。

研究所講的是一種特定反事實測試下的「非歸因」結果。如果刪除某個訓練單位後，輸出沒有改變，按這項研究採用的衡量方式，就不能將該輸出的因果責任歸給這個單位。

對版權訴訟有咩影響？

這項研究可能令一種針對圖像生成公司的侵權論證更難成立，例如聲稱某位藝術家的作品，或複製該藝術家風格的作品，直接造成某一個具體AI輸出。假如連藝術家的整個作品庫都移除，生成結果仍然沒有明顯改變，索償一方要證明該藝術家對這個輸出有直接、具體的因果貢獻，可能會更加困難。

不過，研究並沒有替任何訴訟作出裁決，也沒有建立一條新的法律規則。版權案件仍然可能涉及未經授權使用訓練資料、特定輸出與受保護作品之間是否構成實質相似、模型是否曾接觸相關作品、市場損害、合約條款，以及其他與「單一圖片是否為某個輸出所不可或缺」無關的問題。

研究有乜重要限制？

• 不等於模型沒有記憶。 某個輸出在這項刪除測試下無法歸因於任何一張訓練圖片，不代表模型沒有記住內容；模型仍可能在某些提示詞或抽樣條件下重現材料，也可能生成與受保護作品高度相似的圖像。論文測試的是移除訓練單位後的因果敏感度，而不是所有形式的記憶或侵權。
• 目前不能直接套用到大型語言模型。 研究對象是擴散模型，重點是圖像生成。其集成及消融方法，以及隨規模出現的實證結果，不能因此視為已經在以 Transformer 為基礎的大型語言模型上獲得證明。
• 不能取代其他證據。 法庭及技術調查人員仍可能需要測試特定提示詞下能否重現內容、分析作品相似度及來源、查閱訓練數據和系統紀錄、進行模型審計，再配合適用的法律分析。

簡單講，「歸因衰減」指出：當模型規模去到一定程度，單一來源的因果故事可能會失效；但這不代表其他方式永遠無法證明曾經發生複製，亦不代表AI生成內容自然就沒有版權風險。