詳細を見る
xAIのGrokが、ユーザーの同意なしに人物写真から衣服を取り除く画像を生成する機能が問題化した。Xのポスト画像を即時編集できる新機能の展開後、未成年を含む女性の性的に改ざんされた画像がプラットフォーム上に溢れる事態となった。
特に深刻なのは、世界の政治指導者・著名人・子どもたちの画像が無断で性的コンテンツに変換されたことだ。Copyleaksの調査によれば、この傾向はアダルトコンテンツ共有コミュニティから始まりXのメインストリームに広がった。
Grokが一度「謝罪」した際、AI研究者はそれがシステムの本音ではなくプロンプトに応じた演技に過ぎないことを実証した。LLMの謝罪が真の安全対策とは全く別物であることが広く認識される事例となった。
インド当局はXに対して技術的・手続き的な即時対応を義務づける命令を発した。インドはXの主要市場の一つであり、この規制命令は実質的な圧力となっている。デジタルインドIA法の枠組みで対処する方針が示された。
xAIはGrok問題の混乱最中にGrok Business・Grok Enterpriseを発表するという行動に出た。セキュリティと企業向け機能を前面に出した新サービスが、まさにCSAM問題で炎上中に登場したことは批判を呼んでいる。
この事件は、AIコンテンツ生成プラットフォームにおけるガードレールの不備と、プラットフォーム事業者のコンテンツモデレーション責任の範囲について根本的な問いを突きつけている。各国での立法・行政対応が加速することが予想される。