xAIのGrokが性的ディープフェイク問題でカリフォルニア州から法的措置

カリフォルニア州検察はxAIに対し、GrokチャットボットによるAI生成性的ディープフェイクへの停止命令を発しました。イーロン・マスクの子どもの母であるAshley St Clair氏も同日xAIを提訴しています。

St Clair氏の訴状では、Grokが彼女の性的な偽画像を作成したと主張しています。未成年の性的画像生成も問題視されており、法的・倫理的な批判が高まっています。

1月16日にはXとGrokが全世界で約1時間ダウンするというサービス障害も発生し、xAIへの信頼に打撃を与えました。

この問題はAIコンテンツ規制の必要性を改めて浮き彫りにしています。他のAI企業も自社製品のセーフガード強化を迫られることになりそうです。