詳細を読む
匿名の原告「ジェーン・ドウ」氏は水曜日、イーロン・マスク氏率いるxAIを相手取り、対話型AI「Grok」の学習に児童性的虐待コンテンツ(CSAM)が使われたとして訴訟を起こしました。訴状によると、ドウ氏は2000年代初頭、就学前の幼少期に成人男性らから繰り返し性的暴行を受けてCSAMを作成され、その画像がオンラインで小児性愛者らに販売されていたと主張しています。
事件以降、ドウ氏の画像は全米行方不明・被搾取児童センター(NCMEC)やカナダ児童保護センター(CCCP)によってハッシュ登録され、追跡対象となってきました。ドウ氏は自身の安全のため、米司法省の被害者通知システムから新たな捜査に関する通知を受け取る設定にしていましたが、CCCPからxAI上で自分をモデルにしたAI生成CSAMが見つかったと知らされ、大きな衝撃を受けたといいます。
訴状は、加害者らがオンラインの掲示板で、ドウ氏をはじめとする既知の被害者を対象にAI生成CSAMを作成する方法について語り合っていたとするやり取りが見つかったと主張しています。ドウ氏はこの通知によって再びトラウマを呼び起こされたと訴えています。
さらにドウ氏が懸念しているのは、xAIがGrokが生成した画像を保存し、新たなモデルの学習にも利用している疑いがある点です。この主張が事実であれば、Grokは20年以上前に作成された元画像だけでなく、比較的新しく生成されたAI製CSAMの両方を学習に用いていたことになります。
xAIを巡っては、実在する少女3人の写真を悪用してAI生成CSAMを作ったとして今年3月にも別の訴訟が起こされたほか、Grokの利用者が児童性的虐待コンテンツの生成・所持で逮捕される事例も報じられています。規制当局や裁判所は、xAIにおける児童保護問題がどこまで広がっているのか、調査を続けています。