このように複数の仕組みを組み合わせることで、どれか一つが機能しなくても検出できる可能性を高めています。
OpenAIは、C2PA(Coalition for Content Provenance and Authenticity)というオープン標準を採用しています。これは、メディアファイルに暗号的に検証可能なメタデータを付与する技術です。
AI生成画像の場合、メタデータには次のような情報が含まれる可能性があります。
C2PAはAI専用の仕組みではありません。カメラメーカーやニュース組織、ソフトウェア企業なども導入を進めており、メディアの信頼性を確認する共通基盤として広がりつつあります。
ただし大きな弱点があります。メタデータは簡単に失われる可能性があるという点です。例えば次のようなケースです。
このような場合、出所情報が消えてしまうことがあります。
そこでOpenAIは、**Google DeepMindと協力して「SynthID」**という不可視ウォーターマーク技術を導入しています。
SynthIDはメタデータとは異なり、画像のピクセル自体に信号を埋め込む仕組みです。専用の検出ツールを使うと、その信号を読み取ることができます。
この方式にはいくつかの利点があります。
研究によれば、Googleのサービスではすでに数十億枚規模の画像や動画フレームにSynthIDが埋め込まれているとされています。
ただしこちらも万能ではありません。強い編集、トリミング、変形、あるいは意図的な除去操作によって検出が難しくなる可能性があります。また、この透かしは最初から埋め込まれた画像にしか存在しません。
C2PAメタデータとSynthID透かしは、同じ目的を持ちながらも役割が異なります。
メタデータ(C2PA)
不可視ウォーターマーク(SynthID)
そのためOpenAIは両方を組み合わせ、メタデータの透明性とウォーターマークの耐久性を補完的に使う戦略を採っています。
OpenAIはさらに、画像をアップロードしてAI生成かどうかを確認できる公開検証ツールのプレビューも発表しています。
このツールは画像を解析し、次のシグナルを確認します。
どちらかの信号が検出されれば、その画像がChatGPTやOpenAI APIなどのOpenAIモデルで生成された可能性があると報告されます。
ただし重要なポイントがあります。シグナルが見つからないからといって、人間が作った画像だと証明できるわけではありません。
理由としては次のような可能性があります。
つまり、このツールは「AI生成かどうかを完全に判定するもの」ではなく、画像の出所を確認するための手がかりを提供するものです。
生成AIの普及によって、リアルに見える合成画像は急速に増えています。そのため、テック企業やメディア業界では**コンテンツの出所を示す仕組み(プロベナンス)**の整備が重要視されています。
OpenAIの取り組みは、次の3つを組み合わせるアプローチです。
ポイントは、AI画像を一発で見抜く万能な方法は存在しないということです。今後は単一の検出技術ではなく、複数のシグナルと業界全体の採用によって、デジタルコンテンツの信頼性を高めていく流れになりそうです。