MIT研究、AI画像で進む「帰属の減衰」を指摘

これは、その画像がモデルの学習全体に一切関係しなかったという意味ではない。特定の出力に対する個別の因果的な寄与が、検出できないほど小さくなったという意味だ。

再学習を避けた「拡散アンサンブル」

この問題を直接調べるのは容易ではない。通常なら、元のデータから1枚の画像を削除してモデルを再学習し、削除前後の出力を比較する必要がある。画像やアーティスト、被写体ごとにこの作業を繰り返すには大きな計算コストがかかる。また、近似的な手法では、削除したデータが学習過程に残した影響をすべて取り除けない可能性がある。

そこでDai氏とGifford氏は、**拡散アンサンブル（diffusion ensemble）**という構成を設計した。これは、データセットの異なる部分集合を使って学習した複数の小規模な拡散モデルを組み合わせる仕組みだ。

ある画像の影響を調べる際には、その画像を学習した構成要素だけを停止する。これにより、モデル全体を最初から再学習することなく、「その画像が存在しなかった場合」の反実仮想的な出力を生成できる。

研究チームはこの方式を、同じデータで学習した24の通常の拡散モデルとも比較した。標準的な指標で見ると、生成品質は概ね同等だったという。

この構成の利点は、研究で使われたアーキテクチャ内では、特定のデータを正確に取り除く検証が可能になる点にある。素材を見たすべての構成要素を停止しても出力が変わらなければ、その素材が当該出力を生み出したことを示す測定可能な証拠は得られない。

著作権訴訟では何を意味するのか

帰属の減衰は、「ある生成画像は、原告の特定の作品、あるいは原告の作品群によって生じた」と主張する際の立証を難しくする可能性がある。正確な削除テストで対象素材を取り除いても出力が変わらないなら、その出力を取り除いた素材に帰属させる根拠は限定的になる。

こうした論点は、Midjourney、OpenAI、Microsoftなどが関わる画像生成サービスやモデル開発をめぐる紛争で問題になる可能性がある。ただし、この研究が企業の法的責任を判断したわけではない。示しているのは、個別の学習データと個別の出力の因果関係を特定することが、モデルの大規模化によって難しくなり得るという点だ。

少なくとも、次の問題は別途検討する必要がある。

• 学習データはどのように取得されたのか。 著作物を収集・利用して学習することが適法かどうかは、この研究からは判断できない。
• 出力は保護された作品と実質的に類似しているのか。 特定の1ファイルへの因果関係を証明できなくても、視覚的な類似性が法的に意味を持つ場合はある。
• モデルは素材を記憶・再現したのか。 生成AIが学習例を再現することはあり得る。これは、すべての出力を1つの学習画像に帰属できるかという問題とは異なる。
• システムはアーティストの作風を意図的に模倣するよう設定されたのか。 特定のプロンプト、追加学習、モデルの挙動などは、1枚の画像を除くテストでは捉えきれない可能性がある。

そのため、裁判所や調査担当者は、学習データの取得記録、データの来歴、出力との直接的な類似性、特定のプロンプトに対するモデルの挙動、専門家による分析など、より幅広い証拠を検討する必要が出てくるかもしれない。これは、規模が大きくなると「1枚の画像から1つの出力」への因果関係が不安定になるという研究結果から導かれる実務上の示唆であり、研究が新たな法的ルールを作ったということではない。

「AIはコピーしない」という意味ではない

帰属の減衰を、拡散モデルは決してコピーしないという証明として読むことはできない。研究が示したのは、学習データが増えると、個々の素材の測定可能な影響が無視できるほど小さくなる場合があるということだ。モデルが特定の条件下で学習例を記憶したり、再現したりする可能性は残る。

また、今回の研究対象は拡散ベースの画像生成モデルに限られる。言語モデルや別の生成アーキテクチャに、その結果をそのまま当てはめることはできない。

最も慎重で正確な読み方はこうだ。大規模な拡散モデルでは、学習データに特定の画像やアーティストの作品が含まれていても、個々の生成結果をそこへ結びつけることが難しくなり得る。このことは、特定の出力について責任を立証する1つのルートを弱める可能性がある。一方で、学習データの扱い、コピー、作風の模倣、知的財産権をめぐるより大きな問題は、依然として残されている。