這並不等於某張圖片從未參與模型的整體訓練,而是表示在特定輸出、以及研究採用的移除測試中,該圖片個別造成的因果貢獻可能小到無法偵測。
直接回答這個問題並不容易。傳統方法通常是先移除一張來源圖片,再重新訓練模型,最後比較移除前後的生成結果。如果要逐一測試單張圖片、藝術家或人物,成本非常高;而近似計算也未必能完整排除資料移除後產生的所有後續影響。
戴與吉福德因此設計了 「擴散集成」(diffusion ensemble):由多個較小的擴散模型元件組成,每個元件以不同但彼此重疊的資料子集訓練。要檢驗某個來源的影響時,研究人員只需關閉所有曾看過該來源的元件,就能生成「如果沒有這項資料,模型會產生什麼結果」的反事實輸出,而無須重新訓練整個系統。
研究團隊也將這種方法與24個使用相同資料訓練的傳統擴散模型比較,並表示兩者依標準指標衡量時,生成品質大致相當。
在這套架構下,研究人員可以進行精確的移除測試:如果關閉所有看過某一來源的元件後,輸出仍然沒有變化,實驗便沒有提供可測量證據,證明該來源造成了這個特定結果。
「歸因衰減」可能使某一類主張更加難以成立:例如,指稱Midjourney、OpenAI或Microsoft相關系統生成的某張圖像,是由原告的一張特定圖片,或由原告整套作品直接造成或複製而來。若在精確的反事實測試中移除這些資料後,相關輸出仍然不變,這項測試便很難支持將結果歸因於被移除的來源。
但研究本身並沒有判定任何企業是否應負法律責任。它提供的是一項關於「單一訓練資料與單一輸出之間的因果連結,可能難以建立」的研究證據,而不是新的法律規則。
訴訟中仍有多個不同問題需要分開處理:
因此,法院與調查人員可能需要更完整的證據組合,包括資料取得紀錄、來源與流向資訊、直接相似性分析、針對性提示詞測試、模型行為證據及專家意見。這是對研究所揭示的舉證困難作出的實務推論,而不是研究直接創設的法律標準。
不能將歸因衰減解讀為擴散模型從不複製作品。研究顯示的是:隨著訓練資料集擴大,單一來源對個別輸出的可測量影響可能變得微不足道;在某些情況下,模型仍可能記憶或重現訓練範例。
研究範圍也有明確限制。團隊檢驗的是以擴散技術為基礎的圖像生成器,因此不能直接把結果套用到語言模型或其他生成式架構。
較準確的解讀是:大型擴散模型可能讓「單一來源—單一輸出」的追溯變得更加困難,即使某張圖片或某位藝術家的作品確實曾被納入訓練資料。這可能削弱證明特定輸出責任歸屬的一條路徑,但資料使用方式、複製、風格模仿及智慧財產權等更廣泛的爭議,仍然沒有因此得到答案。
這並不等於某張圖片從未參與模型的整體訓練,而是表示在特定輸出、以及研究採用的移除測試中,該圖片個別造成的因果貢獻可能小到無法偵測。
直接回答這個問題並不容易。傳統方法通常是先移除一張來源圖片,再重新訓練模型,最後比較移除前後的生成結果。如果要逐一測試單張圖片、藝術家或人物,成本非常高;而近似計算也未必能完整排除資料移除後產生的所有後續影響。
戴與吉福德因此設計了 「擴散集成」(diffusion ensemble):由多個較小的擴散模型元件組成,每個元件以不同但彼此重疊的資料子集訓練。要檢驗某個來源的影響時,研究人員只需關閉所有曾看過該來源的元件,就能生成「如果沒有這項資料,模型會產生什麼結果」的反事實輸出,而無須重新訓練整個系統。
研究團隊也將這種方法與24個使用相同資料訓練的傳統擴散模型比較,並表示兩者依標準指標衡量時,生成品質大致相當。
在這套架構下,研究人員可以進行精確的移除測試:如果關閉所有看過某一來源的元件後,輸出仍然沒有變化,實驗便沒有提供可測量證據,證明該來源造成了這個特定結果。
「歸因衰減」可能使某一類主張更加難以成立:例如,指稱Midjourney、OpenAI或Microsoft相關系統生成的某張圖像,是由原告的一張特定圖片,或由原告整套作品直接造成或複製而來。若在精確的反事實測試中移除這些資料後,相關輸出仍然不變,這項測試便很難支持將結果歸因於被移除的來源。
但研究本身並沒有判定任何企業是否應負法律責任。它提供的是一項關於「單一訓練資料與單一輸出之間的因果連結,可能難以建立」的研究證據,而不是新的法律規則。
訴訟中仍有多個不同問題需要分開處理:
因此,法院與調查人員可能需要更完整的證據組合,包括資料取得紀錄、來源與流向資訊、直接相似性分析、針對性提示詞測試、模型行為證據及專家意見。這是對研究所揭示的舉證困難作出的實務推論,而不是研究直接創設的法律標準。
不能將歸因衰減解讀為擴散模型從不複製作品。研究顯示的是:隨著訓練資料集擴大,單一來源對個別輸出的可測量影響可能變得微不足道;在某些情況下,模型仍可能記憶或重現訓練範例。
研究範圍也有明確限制。團隊檢驗的是以擴散技術為基礎的圖像生成器,因此不能直接把結果套用到語言模型或其他生成式架構。
較準確的解讀是:大型擴散模型可能讓「單一來源—單一輸出」的追溯變得更加困難,即使某張圖片或某位藝術家的作品確實曾被納入訓練資料。這可能削弱證明特定輸出責任歸屬的一條路徑,但資料使用方式、複製、風格模仿及智慧財產權等更廣泛的爭議,仍然沒有因此得到答案。