生成AI画像は「誰の作品を学んだか」を特定できない？ MIT研究が示した「帰属の減衰」

MITコンピュータ科学・人工知能研究所（CSAIL）のZheng Dai氏とDavid Gifford氏らの研究は、拡散型画像生成AIにおいて、学習データが大規模になるほど、特定の学習画像が個別の生成結果に与えた影響を突き止めにくくなる現象を示した。研究チームはこの現象を「帰属の減衰（attribution decay）」と呼んでいる。

これは、生成画像が特定のアーティストや写真から生まれたのかを検証するうえで重要な示唆を持つ。一方で、AI企業による著作権物の収集や学習が合法であること、あるいは生成AIが作品をコピーしないことを意味するわけではない。

Dai氏とGifford氏は何を検証したのか

研究チームは、画像1枚ごとの影響を数式で推定するのではなく、「拡散アンサンブル（diffusion ensemble）」という構成を用いた。これは、学習データの異なる部分集合を使って訓練した、複数の小規模な拡散モデルを組み合わせる方法だ。

特定の画像を学習していない反実仮想モデルを作る際には、その画像を見たモデル構成要素をすべて停止した。これにより、モデル全体を再学習したり、影響を近似したりせずに、対象データを正確に除いた場合の出力を比較できるようにした。

さらに研究チームは、同じデータを使って学習した従来型の拡散モデル24個とも結果を比較した。標準的な指標では、両者の生成品質はおおむね同程度だったという。

検証対象となったデータセットの規模は、256枚から16万枚超まで幅広い。研究チームは、次の3種類のデータを取り除いた場合に、生成結果がどう変わるかを調べた。

• 特定の画像1枚
• 1人のアーティストによる全作品
• 特定の人物を写した全写真

データセットの規模が大きくなると、これらのデータを除いても、生成結果に目立った変化が現れないケースが増えた。つまり、特定の1枚や特定の作家の作品群が、個別の出力に与える測定可能な影響が小さくなった。この影響の弱まりが「帰属の減衰」だ。

AI著作権訴訟にどんな意味があるのか

この研究結果は、Midjourney、OpenAI、Microsoftなどに関連するシステムの生成物が、原告の特定の画像、あるいは作品全体によって生じたものだと主張する際の立証を難しくする可能性がある。

対象の画像や作品群を学習データから正確に除いても、問題となる生成結果が変わらなければ、「そのデータがこの出力の原因だった」とする反実仮想テストから得られる根拠は限定的になるためだ。

ただし、研究が答えたのは、あくまで特定の出力と特定の学習データの因果関係をどこまで検出できるかという問題である。次のような法的論点を直接解決したわけではない。

• 企業が学習データを集める際に作品を複製したか
• AIの学習行為そのものが著作権侵害に当たるのか、フェアユースに該当するのか
• 生成物が保護された作品と実質的に類似しているか
• モデルが特定のアーティストを模倣するよう意図的に設定・誘導されたか

したがって、この研究は裁判所の判断や法的免責ではなく、生成結果の出所を個別に割り当てることの難しさを示す証拠と位置付けられる。

「コピーは起きない」という意味ではない

帰属の減衰は、拡散モデルが学習画像を記憶できないという意味ではない。モデルは条件によって、学習データの例を記憶したり、再現したりすることがある。ここで示されたのは、データセットが大きくなると、個々のデータが特定の出力に与えた影響を測定できないケースが増えるという点だ。

また、今回の検証対象は拡散型の画像生成モデルであり、言語モデルなど別の生成アーキテクチャーにそのまま一般化することもできない。

今後、AIによる著作権侵害や作品の模倣を判断する際には、「この1枚の学習画像が、この1枚の生成画像を生んだか」という因果関係だけでは不十分になる可能性がある。学習データの取得記録、生成物との直接的な類似性、特定のプロンプトに対するモデルの挙動、作品の来歴情報、専門家による分析など、複数の証拠を組み合わせる必要があるだろう。これは、研究が大規模データにおける個別の因果帰属の難しさを示したことから導かれる見方である。