整體實驗涵蓋 24 組模型集成與 7 個公開圖像資料集,資料集規模從 256 張圖像到超過 16 萬張圖像。對每個候選訓練單位,研究團隊都比較原始生成結果與移除該單位後的版本,並將兩者差異最大的程度稱為「反事實半徑」(counterfactual radius),用來衡量單一訓練單位可能造成的最大因果影響。
實驗結果顯示,隨著資料集變大,反事實半徑會下降。換句話說,移除一張特定訓練圖像,越來越不容易讓某個生成結果出現明顯變化。
在資料規模足夠大時,這種現象甚至不只適用於單張圖像。研究發現,移除某位藝術家的全部作品,或移除所有描繪特定人物的照片,也可能無法讓生成樣本產生明顯改變。
這裡的關鍵不是「模型完全沒有受到這些資料影響」,而是研究採用的刪除測試無法將特定輸出明確歸因於那些資料。若移除一個訓練單位後,輸出幾乎不變,那麼在這項測量標準下,就很難把該單位視為該輸出的直接因果責任來源。
這項研究可能讓一種特定的侵權論證變得更難成立:如果主張某個爭議生成結果,是由某位具名藝術家的作品,或由複製該藝術家風格的訓練資料直接造成,原告可能需要證明更具體的輸出因果關係。若移除該藝術家的整套作品後,生成結果仍大致不變,便可能難以證明這些作品對該張圖像具有直接、不可替代的因果貢獻。
但這項研究並沒有替法院裁定個案,也沒有建立任何新的著作權法律規則。AI 著作權訴訟還可能涉及未經授權的訓練複製、特定輸出與受保護作品之間的實質相似性、模型是否接觸過相關作品、市場損害、合約條款,以及其他與「單一圖像是否為單一輸出的必要原因」不同的問題。
某個輸出在刪除測試下無法歸因於任何單一訓練圖像,不代表模型沒有記憶內容。模型仍可能在某些提示詞、取樣設定或其他條件下重現素材,也可能生成與受保護作品高度相似的結果。這篇研究測量的是模型對刪除訓練單位的因果敏感度,不是所有形式的記憶或侵權。
研究對象是擴散模型,重點在圖像生成。研究中的集成與消融方法,以及觀察到的資料規模效應,並沒有因此證明同樣適用於以 Transformer 為基礎的大型語言模型(LLM)。
在實際調查或訴訟中,仍需要進行提示詞重現測試、相似性與來源分析、檢視訓練資料及系統紀錄、模型稽核,以及適用的法律分析。 「歸因衰減」指出的是:當資料規模擴大,單一來源主導某個輸出的說法可能失效;它並沒有證明複製行為不可能透過其他證據被證明。
整體實驗涵蓋 24 組模型集成與 7 個公開圖像資料集,資料集規模從 256 張圖像到超過 16 萬張圖像。對每個候選訓練單位,研究團隊都比較原始生成結果與移除該單位後的版本,並將兩者差異最大的程度稱為「反事實半徑」(counterfactual radius),用來衡量單一訓練單位可能造成的最大因果影響。
實驗結果顯示,隨著資料集變大,反事實半徑會下降。換句話說,移除一張特定訓練圖像,越來越不容易讓某個生成結果出現明顯變化。
在資料規模足夠大時,這種現象甚至不只適用於單張圖像。研究發現,移除某位藝術家的全部作品,或移除所有描繪特定人物的照片,也可能無法讓生成樣本產生明顯改變。
這裡的關鍵不是「模型完全沒有受到這些資料影響」,而是研究採用的刪除測試無法將特定輸出明確歸因於那些資料。若移除一個訓練單位後,輸出幾乎不變,那麼在這項測量標準下,就很難把該單位視為該輸出的直接因果責任來源。
這項研究可能讓一種特定的侵權論證變得更難成立:如果主張某個爭議生成結果,是由某位具名藝術家的作品,或由複製該藝術家風格的訓練資料直接造成,原告可能需要證明更具體的輸出因果關係。若移除該藝術家的整套作品後,生成結果仍大致不變,便可能難以證明這些作品對該張圖像具有直接、不可替代的因果貢獻。
但這項研究並沒有替法院裁定個案,也沒有建立任何新的著作權法律規則。AI 著作權訴訟還可能涉及未經授權的訓練複製、特定輸出與受保護作品之間的實質相似性、模型是否接觸過相關作品、市場損害、合約條款,以及其他與「單一圖像是否為單一輸出的必要原因」不同的問題。
某個輸出在刪除測試下無法歸因於任何單一訓練圖像,不代表模型沒有記憶內容。模型仍可能在某些提示詞、取樣設定或其他條件下重現素材,也可能生成與受保護作品高度相似的結果。這篇研究測量的是模型對刪除訓練單位的因果敏感度,不是所有形式的記憶或侵權。
研究對象是擴散模型,重點在圖像生成。研究中的集成與消融方法,以及觀察到的資料規模效應,並沒有因此證明同樣適用於以 Transformer 為基礎的大型語言模型(LLM)。
在實際調查或訴訟中,仍需要進行提示詞重現測試、相似性與來源分析、檢視訓練資料及系統紀錄、模型稽核,以及適用的法律分析。 「歸因衰減」指出的是:當資料規模擴大,單一來源主導某個輸出的說法可能失效;它並沒有證明複製行為不可能透過其他證據被證明。