當圖片加入C2PA內容憑證後,檔案會附帶一段可驗證的元數據,可能包括:
不過,單靠元數據有一個很大的弱點:容易消失或被移除。
當圖片在網絡上流傳時,以下情況都可能令元數據消失:
這正正是OpenAI加入第二層識別技術的原因。
同一般元數據不同,SynthID並唔係附加在檔案外層,而係改動圖片像素中的細微結構。呢個訊號:
因此,當C2PA元數據消失時,SynthID仍可能提供另一條證據鏈。
用戶可以將圖片上傳,系統會檢查是否存在相關識別訊號,從而判斷圖片是否由OpenAI模型生成,例如:
生成式AI令「超逼真」圖片變得極容易製作,假圖在社交媒體上散播的速度亦越來越快。
OpenAI希望透過這個溯源系統,令不同群體更容易核實圖片來源,包括:
OpenAI這一步其實反映一個更大的行業趨勢:科技公司與媒體機構正嘗試建立標準化的內容溯源機制。
與其依賴單一檢測方法,業界開始結合多種技術,例如:
Comments
0 comments