OpenAI 正採用 C2PA(Coalition for Content Provenance and Authenticity) 標準,這是一個開放技術框架,可在媒體檔案中附加可加密驗證的來源資訊。
當圖片由 AI 生成時,這些資訊可能包含:
C2PA 並不只用於 AI。相機製造商、新聞媒體與影像軟體也能使用同一標準為照片加入來源紀錄,逐步建立更完整的媒體真實性生態系。
不過,中繼資料有一個明顯限制:它很容易在分享過程中消失。例如當圖片被截圖、重新壓縮、在不保留 metadata 的軟體中編輯,或重新上傳到平台時,這些資訊可能會被移除。
為了讓識別更耐用,OpenAI 也與 Google DeepMind 合作,在 AI 生成圖片中加入 SynthID 隱形浮水印。
與 metadata 不同,SynthID 會把訊號直接嵌入圖片像素中。這意味著訊號存在於影像內容本身,而不是附加在檔案資訊裡。
這種方法有幾個優點:
相關研究指出,這套系統已在 Google 服務中為數十億張圖片與影片畫格加入浮水印,用於大規模內容識別。
但浮水印同樣不是萬能。大幅裁切、強烈後製、影像轉換或刻意移除訊號的攻擊,都可能降低偵測成功率;而且只有使用該技術的 AI 系統生成的圖片才會包含這種浮水印。
這兩種方法都能幫助追蹤影像來源,但解決的問題不同。
C2PA 中繼資料
SynthID 隱形浮水印
因此 OpenAI 將兩者結合:C2PA 提供詳細背景資訊,而浮水印提升在網路傳播中的耐久性。
除了在圖片中加入識別訊號,OpenAI 也預覽了一個公開驗證工具,讓任何人都能上傳圖片並檢查其來源。
這個工具會檢測兩種訊號:
如果其中一種被偵測到,系統就能顯示該圖片可能來自 OpenAI 的影像模型,例如 ChatGPT 或其 API 所生成的圖片。
但需要注意:如果沒有偵測到訊號,並不代表圖片一定是人類拍攝或製作。原因可能包括:metadata 已被移除,或圖片來自其他未使用相同技術的 AI 系統。
隨著生成式 AI 的普及,製作逼真的合成影像變得非常容易。OpenAI 的策略反映出整個產業的一個共識:與其追求百分之百的 AI 偵測,不如建立一個能提供來源背景與上下文的生態系統。
透過開放標準、影像浮水印,以及可公開使用的驗證工具,OpenAI 希望讓平台、媒體與一般使用者更容易查證圖片來源。
核心重點是:未來辨識 AI 內容,很可能依賴多種訊號與整個產業的合作,而不是單一萬能的檢測方法。