詳細を読む
X（旧Twitter）とxAIを相手取った集団訴訟の修正訴状が7日、提出されました。訴状によれば、ある男性が生成AI「Grok」を使い、当時11歳だった継娘の1枚の写真から約7000枚もの性的な画像や動画を作成したとされます。男性は今年3月、警察の捜査が及んだ後に自ら命を絶ちました。
訴状は、Grokが近親相姦や強姦を描いた極端な画像の生成を、有害な行為として警告することなく許していたと主張しています。xAIの児童保護システムが作動したのは、男性が「集団強姦」というプロンプトを入力した時だけだったとされます。この通報は全米行方不明・被搾取児童センター（NCMEC）へのサイバー通報となり、法執行機関にAIによる児童性的虐待資料（CSAM）の存在を知らせました。
しかし、被害はそこで止まりませんでした。CSAMが検知された際にはユーザーのIPアドレスなどの情報を共有する報告義務があるにもかかわらず、xAIは警察やNCMECによるユーザー特定への協力を繰り返し拒んだと訴状は指摘します。数週間にわたり、xAIは「あらゆる局面で捜査を妨害した」とされ、加害者の特定や逮捕を困難にしたと批判されています。
最終的に継父が逮捕されたのは、警察が端末を押収する令状を得た後でした。フォレンジック調査により、継娘を描いた約7000枚のAI生成画像・動画が見つかったとされます。家族は、Grokが手軽な「脱がせ」機能を提供していなければ、男性がこうした画像を生成することはなかっただろうと訴えています。
今回の訴訟は、若い少女たちがXとxAIを、有害なAI「ヌード化」ツールを構築しただけでなく、児童捕食者を庇護し警察の捜査を妨げたとして告発するものです。生成AIの安全設計と、企業が負うべき説明責任の在り方が、改めて厳しく問われる事態となっています。