詳細を読む
ドイツのミュンヘン地方裁判所は6月13日、検索大手Googleに対し、AI要約機能「AI Overviews」が生成した一連の虚偽の記述に法的責任があるとする仮処分判決を下しました。同社に対し、検索エンジンを通じた誤った主張の流布を防ぐよう命じる内容で、世界の検索エンジンや生成AIチャットボットの運用を揺るがしかねない判断です。
発端は、ある2社の出版社が、GoogleのAI生成要約によって特定の検索で詐欺や悪質な商慣行、定期購読詐欺に結び付けられていると気づいたことでした。両社は根拠のない関連付けだとして停止通告を送りましたが、Googleは、要約機能が情報に誤りを含む可能性を利用者に警告していると主張し、責任を否定していました。
裁判所は、従来の検索エンジンが第三者の発言を含むリンク一覧を表示するだけなのに対し、GoogleのAIは複数の情報源を誤って解釈し「独自で新しく実質的な主張」を生み出したと認定しました。誤情報の訂正は第三者の責任ではなく、技術を改変できる唯一の主体であるGoogleこそ「責任を負わなければならない」と結論づけています。
さらに判決は、AIの幻覚（ハルシネーション）を理由に利用者へ検証を促す警告があっても、配信者の責任は免れないとしました。原文に存在しない主張である以上、元の情報源を訴えることはできず、警告を認めれば虚偽の被害者が無防備になるためです。AIの出力は企業が設計・訓練・運用したアルゴリズムの産物であり、言論の自由による保護も及ばないと判断しました。
裁判所はGoogleに対し、名誉を毀損するとされた記述の大部分の削除と、訴訟費用の80%負担を命じました。Googleの広報担当者はArs Technicaに対し、回答の品質に深く投資しているとしたうえで決定を精査中で、控訴の可能性を示唆しています。
この判決は世界のAI業界に波及しうる歴史的な前例となる可能性があります。OpenAIやAnthropic、Perplexity AIも自社の回答に誤りの可能性を警告していますが、本件は、AIが情報源にない新たな主張を生成した場合、設計・運用する企業が損害の法的責任を負うべきだとしている点で重い意味を持ちます。