xAIがGrok悪用ユーザーを初提訴、児童性的画像で

イーロン・マスク氏率いるxAIは7月14日、対話AI「Grok」を悪用し違法な児童性的虐待画像（CSAM）を生成したとして、ユーザーを初めて提訴しました。対象は今年逮捕された米サウスカロライナ州のテリー・ハーウッド被告で、数カ月にわたり2つのアカウントを使い、10歳ほどとみられる少女を含む複数の被害者の画像をヌード化していたとされます。

この提訴は、xAIがこれまでGrok製CSAMの存在を否定してきた姿勢からの転換を示します。マスク氏は従来「Grok生成のCSAMの例は見ていない」と主張し、出力を制限するよりも利用者の自己責任を求める立場を取ってきました。

背景には、Grokによる被害を訴える動きの拡大があります。提訴の約1週間前には、別の少女が集団訴訟に加わり、継父がGrokなどを使い自身の性的画像を7000枚生成しダークウェブで拡散した後に自殺したと主張しました。

被害者側はxAIが捜査に非協力的だと批判しています。2026年の全米行方不明・被搾取児童センター（NCMEC）の報告では、xAIの通報の90%が加害者特定に必要な利用者情報を欠き、法執行機関が対応できなかったと指摘されました。今回の提訴が企業姿勢の実質的な転換につながるかが問われます。