詳細を読む
米マサチューセッツ工科大学(MIT)コンピュータ科学・人工知能研究所(CSAIL)の研究チームは、AI画像生成モデルにおいて、学習データの量が増えるほど個々の画像が生成結果に与える影響が消える属性減衰という現象を発見したと発表しました。米科学誌ネイチャー・コミュニケーションズに18日付で論文が掲載され、AI生成物の著作権を巡る議論に一石を投じています。
研究チームは、AI画像生成でよく使われる拡散モデルを対象に、通常なら不可能な「特定の学習画像を除いた場合の生成結果」を、再学習なしで再現する拡散アンサンブルという独自手法を開発しました。小さな複数のモデルを組み合わせ、特定画像を学習した部分だけを無効化することで、真の反実仮想モデルを作れるようにしています。従来の推定手法とは異なり、影響の有無を正確に検証できる点が特徴です。
実際に256枚から16万枚超まで、7つの公開データセットを使って24種類のアンサンブルを学習させたところ、学習データが増えるほど個々の画像が生成結果に与えられる影響の範囲(反実仮想半径)が縮小することが一貫して確認されました。この傾向はピクセル単位でも意味的な類似度で測っても変わらず、統計的にも裏付けられています。研究チームは1282個の個別モデルを実際に訓練する力業の検証でも同じ結果を得て、頑健性を確認しました。
MITのデイビッド・ギフォード教授は、この結果が生成物を「派生著作物」とみなせるかという法的論点に直結すると指摘しています。個々の学習データと結び付かない出力であれば、それは模倣ではなく独自の創作物とみなせる可能性があるためです。同教授は、企業側が著作権侵害を否定するには、こうした帰属不能な設計を採用する責任があるとも述べています。
一方で、今回の分析は画像を生成する拡散モデルが対象であり、著作権訴訟の焦点となっている大規模言語モデルにも同じ現象が当てはまるかは未解明のままです。コーネル大学のジェームズ・グリメルマン教授は、属性追跡が機能しない以上、類似性が模倣によるものか偶然かを判断するには別の手法が必要になると述べ、今後の司法判断にも影響を与える可能性を示唆しています。