不過,這不代表相關圖片完全沒有參與模型整體訓練。較準確的理解是:對某一個特定輸出而言,在研究採用的移除測試下,該圖片單獨造成的因果貢獻可能細到無法偵測。
直接測試並不容易。傳統做法是先移除一張來源圖片,再重新訓練模型,然後將新舊輸出比較。但如果要逐一測試單張圖片、藝術家,或者特定人物,計算成本會非常高;而且一些近似方法未必能夠完全移除數據在訓練過程中產生的所有後續影響。
Dai 及 Gifford 因此設計出 「擴散集成」(diffusion ensemble):由多個較細小的擴散組件組成,而每個組件都用不同但互有重疊的數據子集訓練。要測試某個來源的影響時,研究人員只需停用所有曾經見過該來源的組件,就可以生成「如果模型沒有接觸過這個來源」的反事實輸出,而毋須重新訓練整個系統。
研究團隊再將這套方法與24個使用相同數據訓練的傳統擴散模型比較,按標準指標評估,兩者輸出質素大致相若。
在這個架構下,研究人員可以進行較精確的移除測試:如果關閉所有曾接觸某個來源的組件後,輸出仍然不變,實驗就沒有提供可測量證據,證明該來源造成了這個輸出。
「歸因衰減」可能令一類特定主張更加難證明:例如指稱某張生成圖片是由原告的一張圖片,或者由原告整套藝術作品直接造成或複製而來。如果在精確的反事實測試中移除相關資料,輸出仍然沒有改變,這項測試就很難支持將該輸出歸因於被移除的來源。
這類問題可能出現在涉及 Midjourney、OpenAI 或 Microsoft 等AI圖片服務及模型開發商的爭議中。不過,研究本身並沒有裁定任何公司的法律責任;它提供的是關於「個別訓練資料與個別輸出之間的因果關係有幾難證明」的科學證據。
以下幾個法律及技術問題,研究都沒有代替法院回答:
因此,法院及調查人員可能要依靠更完整的證據鏈,包括數據取得紀錄、來源及沿革資料(provenance)、直接相似度分析、針對性提示詞測試、模型行為證據,以及專家分析。這是根據研究發現作出的實務推論,並不是研究本身創造出來的法律規則。
不應該將研究解讀為「擴散模型永遠唔會抄襲」。研究指出的是:當訓練數據集變得龐大,單一來源對某個輸出的可測量影響可能變得微不足道;但在某些環境下,模型仍然可以記憶或重現訓練範例。
研究範圍亦有限。團隊檢視的是以擴散技術為基礎的圖片生成器,因此不能自動將結論套用到語言模型或其他生成式架構。
最穩妥的結論是:大型擴散式圖片生成系統,可能令「一個輸出對應一個訓練來源」的追溯更加困難,即使訓練數據確實包含某張圖片或某位藝術家的作品。這或會削弱證明某個特定輸出責任歸屬的一條路徑,但關於訓練方式、複製、模仿及知識產權的更大問題,仍然未有因此解決。
不過,這不代表相關圖片完全沒有參與模型整體訓練。較準確的理解是:對某一個特定輸出而言,在研究採用的移除測試下,該圖片單獨造成的因果貢獻可能細到無法偵測。
直接測試並不容易。傳統做法是先移除一張來源圖片,再重新訓練模型,然後將新舊輸出比較。但如果要逐一測試單張圖片、藝術家,或者特定人物,計算成本會非常高;而且一些近似方法未必能夠完全移除數據在訓練過程中產生的所有後續影響。
Dai 及 Gifford 因此設計出 「擴散集成」(diffusion ensemble):由多個較細小的擴散組件組成,而每個組件都用不同但互有重疊的數據子集訓練。要測試某個來源的影響時,研究人員只需停用所有曾經見過該來源的組件,就可以生成「如果模型沒有接觸過這個來源」的反事實輸出,而毋須重新訓練整個系統。
研究團隊再將這套方法與24個使用相同數據訓練的傳統擴散模型比較,按標準指標評估,兩者輸出質素大致相若。
在這個架構下,研究人員可以進行較精確的移除測試:如果關閉所有曾接觸某個來源的組件後,輸出仍然不變,實驗就沒有提供可測量證據,證明該來源造成了這個輸出。
「歸因衰減」可能令一類特定主張更加難證明:例如指稱某張生成圖片是由原告的一張圖片,或者由原告整套藝術作品直接造成或複製而來。如果在精確的反事實測試中移除相關資料,輸出仍然沒有改變,這項測試就很難支持將該輸出歸因於被移除的來源。
這類問題可能出現在涉及 Midjourney、OpenAI 或 Microsoft 等AI圖片服務及模型開發商的爭議中。不過,研究本身並沒有裁定任何公司的法律責任;它提供的是關於「個別訓練資料與個別輸出之間的因果關係有幾難證明」的科學證據。
以下幾個法律及技術問題,研究都沒有代替法院回答:
因此,法院及調查人員可能要依靠更完整的證據鏈,包括數據取得紀錄、來源及沿革資料(provenance)、直接相似度分析、針對性提示詞測試、模型行為證據,以及專家分析。這是根據研究發現作出的實務推論,並不是研究本身創造出來的法律規則。
不應該將研究解讀為「擴散模型永遠唔會抄襲」。研究指出的是:當訓練數據集變得龐大,單一來源對某個輸出的可測量影響可能變得微不足道;但在某些環境下,模型仍然可以記憶或重現訓練範例。
研究範圍亦有限。團隊檢視的是以擴散技術為基礎的圖片生成器,因此不能自動將結論套用到語言模型或其他生成式架構。
最穩妥的結論是:大型擴散式圖片生成系統,可能令「一個輸出對應一個訓練來源」的追溯更加困難,即使訓練數據確實包含某張圖片或某位藝術家的作品。這或會削弱證明某個特定輸出責任歸屬的一條路徑,但關於訓練方式、複製、模仿及知識產權的更大問題,仍然未有因此解決。