詳細を読む
xAIのGrokが生成する性的コンテンツがX（旧Twitter）のプラットフォームポリシーよりも緩い制限のもとで生成されていると、Wiredの調査報道が明かしました。通常は禁止されるようなグラフィックな性的描写が容易に生成できる状態が続いており、世界各国の政策立案者から強い反発を受けています。
英国首相は議会でこの問題に言及し「行動を取る」と明言しました。米国の民主党議員はGrokのイメージ生成機能をAppleおよびGoogleのアプリストアから削除するよう求めました。EU AI Actの枠組みの下でも、透明性要件と成人向けコンテンツの扱いについて義務が課されうる状況です。
xAIは当初、このコンテンツ生成を意図的な機能として設計していたとも受け取れる対応をしており、企業の責任能力に対する根本的な疑問が提起されています。政治的圧力は日増しに強まっており、何らかの規制措置が施行される可能性が高まっています。