OpenAI 如何讓 AI 生成圖片更容易被驗證

透過 C2PA，圖片檔案中可以包含以下資訊：

• 是否由 AI 生成
• 使用了哪些工具或模型
• 是否經過編輯或修改

這些資訊會以 加密簽章的中繼資料形式附加在檔案中，使支援該標準的工具能夠驗證內容的歷史與來源。

目前，這套標準正被多個產業採用，包括 AI 公司、相機製造商、新聞媒體與軟體平台。

為什麼只靠中繼資料還不夠

儘管 C2PA 中繼資料能提供清楚的來源紀錄，但它也有一個明顯限制：很容易被移除或遺失。

在網路上傳播圖片時，常見的操作例如：

• 下載再重新上傳
• 截圖
• 壓縮圖片
• 編輯或重新輸出

都可能讓檔案中的 metadata 消失或被修改。

一旦這些資料被剝除，圖片原本的來源資訊就難以追蹤。因此 OpenAI 選擇加入第二層識別機制。

SynthID：嵌入像素的隱形水印

SynthID 是 Google DeepMind 開發的一種隱形水印技術，它會把特殊訊號直接嵌入圖片像素之中。

與 metadata 不同，SynthID 並不是附加在檔案外層，而是存在於圖像本身。

這意味著：

• 人眼無法察覺
• 但專用檢測工具可以讀取

更重要的是，這種水印通常能在多種常見變動下仍被偵測，例如：

• 裁切
• 壓縮
• 截圖
• 格式轉換

因此即使 metadata 消失，水印仍可能保留下來。

結合兩種技術後，OpenAI 等於建立了一個 冗餘驗證系統：如果其中一種訊號消失，另一種仍可能被偵測到。

公開「Verify」工具如何運作

除了在圖片中嵌入標記外，OpenAI 也預覽了一個 公開驗證工具「Verify」。

使用方式相當直接：

1. 使用者上傳一張圖片
2. 系統檢查圖片是否包含 C2PA 憑證或 SynthID 水印
3. 若檢測到訊號，就能判斷圖片是否來自 OpenAI 的模型

目前工具主要針對由以下產品生成的圖片：

• ChatGPT
• Codex
• OpenAI API

如果圖片含有相關來源訊號，工具就能顯示其生成來源。

不過，這項技術仍有局限。例如，如果圖片被大幅修改，或所有可識別訊號都被移除，工具可能無法辨識。

為什麼這對對抗錯誤資訊很重要

生成式 AI 的普及讓 逼真的合成影像大量出現在網路上。在新聞、政治或社群媒體情境中，這些圖片可能被誤認為真實事件。

OpenAI 的來源追溯計畫希望改善這個問題，讓不同群體能更容易確認影像來源，例如：

• 新聞媒體驗證圖片真偽
• 平台偵測 AI 生成內容
• 研究人員分析合成媒體
• 一般使用者了解網路圖片來源

當 AI 生成圖片帶有可驗證的標記時，內容就會 更透明、也更容易被追蹤。

邁向產業共同的數位來源標準

OpenAI 的做法也反映出整個科技與媒體產業的一個趨勢：建立統一的數位內容來源標準。

越來越多公司正在結合不同技術來追蹤媒體來源，例如：

• metadata（中繼資料）
• 隱形水印
• 驗證工具

如果這些標準被廣泛採用，未來在生成式 AI 時代中，網路上的圖片與媒體內容可能會逐漸具備像「數位來源履歷」一樣的可驗證紀錄。

當然，這些措施無法完全消除假圖片——特別是來自不遵守標準的工具。但至少對於 OpenAI 產生的內容而言，它們將變得 更容易辨識、更透明，也更容易追蹤來源。