AI画像の出どころは、学習データが増えるほど追跡困難に

「帰属の減衰」が意味すること

データセットが大きくなるほど、反実仮想半径は小さくなりました。実際には、1枚の画像を取り除いても、研究で用いた測定方法では元の生成結果と見分けにくい出力になりやすい、ということです。

直感に反するようですが、学習データを増やすほど、生成画像を単一の学習例に結び付けにくくなる可能性があります。モデルは、特定の1枚に依存するのではなく、多数のデータから重なり合う一般的なパターンを学習していると考えられます。

十分に大規模になると、影響の拡散は個別画像にとどまりません。ある作家の作品をすべて除外した場合や、特定の人物を写した写真をすべて除外した場合でも、検証上は生成結果が実質的に変わらないことがあると報告されました。

そのため研究者は、これを単なる「検出技術の失敗」ではなく、減衰と表現しています。調査側のツールが十分に高性能でないというより、1つの出典と1つの出力を結ぶ因果関係そのものが、広く分散して切り分けにくくなる可能性があるためです。

著作権訴訟への影響は？

この結果は、著作権をめぐる主張のうち、特定の因果関係を立証する部分を難しくする可能性があります。たとえば、問題となっている生成画像が、ある作家の作品群、あるいはその作品のコピーによって直接生み出されたと主張するケースです。

作家の作品をすべて学習データから取り除いても出力が大きく変わらないなら、その作品群がその画像の生成に個別に不可欠だったと示すのは難しくなります。大規模な学習では、「この画像はこの1枚、あるいはこの作家の作品群から直接生まれた」という単純な説明が成り立ちにくくなるためです。こうした点から、生成AI企業をめぐる知的財産訴訟を複雑にする研究だと受け止められています。

ただし、この研究だけで企業による著作権侵害の有無が決まるわけではありません。著作権紛争では、学習時に保護された作品が複製されたか、生成物が特定の作品と実質的に類似しているか、特定のプロンプトで何を再現できるか、損害や契約上の義務があるかなど、別の論点も検討されます。

技術的な意味での「帰属できない」は、法的な意味での「コピーしていない」と同じではありません。

「記憶していない」という研究ではない

この実験が検証したのは、学習単位を取り除いたときの出力の感度です。モデルが情報を保持し、再現する可能性をあらゆる角度から調べたわけではありません。

アンサンブルの削除テストで、どの1枚の画像にも強く依存していないように見えても、特定のプロンプトやサンプリング条件では、モデルが作品の一部を記憶して再現する可能性は残ります。また、単一の学習画像が因果的に必要だと示せなくても、生成物が保護された作品と実質的に類似する場合もあります。

区別すべきなのは、次の3つです。

• この画像が出力に影響した：画像の影響を除くと、測定可能な変化が生じる。
• モデルが画像を見た、または保持している：モデルがその画像に接していた、あるいは特徴を記憶している可能性がある。
• 出力が保護された作品をコピーしている：追加の技術的証拠と法的判断が必要になる。

「帰属の減衰」が直接扱うのは、主に最初の問いです。2つ目と3つ目を解決するものではありません。

大規模言語モデルにそのまま当てはまるのか

今回の研究対象は、画像や関連する視聴覚メディアを生成する拡散ベースのモデルです。アンサンブルの構造や、データ規模に伴う傾向を、Transformerベースの大規模言語モデル（LLM）にそのまま一般化することはできません。

言語モデルは、アーキテクチャ、学習手順、トークン表現、出力の仕組みが異なります。今回の結果は、今後の帰属研究に向けた実験的な方向性を示す可能性はありますが、LLMでも同じ形の帰属の減衰が起きることを証明したものではありません。

コピーを判断するには、ほかの証拠も必要

AIシステムが作品をコピーしたかどうかを判断する場合、帰属の減衰は証拠の一部にすぎません。裁判所や技術調査では、少なくとも次のような点を確認する必要があります。

• 管理されたプロンプトで、特定の作品を再現できるか
• 出力とコピーされたとされる作品の視覚的な類似性
• 学習データの出所、アクセス状況、関連記録
• モデル監査の結果やシステム文書
• 出力が幅広い作風を示しているのか、保護されうる具体的な表現を再現しているのか
• その紛争に適用される著作権上の基準

この研究の中心的なメッセージは、AIが「出典を忘れる」という単純な話ではありません。拡散モデルの学習データが大規模になると、個々の学習例が特定の出力に与えた因果的な寄与が、検出できないほど分散することがある。だから出典の追跡は難しくなる一方で、記憶、再現、著作権侵害の分析まで不可能になるわけではありません。