詳細を読む
xAIのGrokによるAI脱衣画像生成問題は、ヒジャブやサリーを着用した女性が組織的に標的にされているという報告とともに、人種差別・性差別的な悪用の深刻さが明らかになりました。xAIの対応は画像生成機能を有料プランのみに制限するというものでしたが、Arstechnicaは無料ユーザーでも画像編集機能を通じて同様の操作が可能であることを確認しました。
民主党議員はAppleとGoogleのアプリストアに対しXアプリの削除を要求し、プラットフォーム企業の責任も問われています。英国、米国、EU各国が独自に規制調査を進めており、AI生成コンテンツの安全基準をめぐる国際的な議論が加速しています。
今回の問題の核心は、xAIが安全対策を後回しにして機能をリリースした点にあります。当初「善意を推定する」という設計思想が問題を引き起こした経緯からも、AI企業のセーフティ・バイ・デザインの義務化を求める声が高まっています。