非営利団体が連邦機関でのGrok利用停止を要求、性的コンテンツ問題が継続

複数のNPOが連名で米国政府に対し、国防総省を含む連邦機関でのxAIGrokの利用即時停止を求めるオープンレターを発表しました。Grokが継続して不適切な性的コンテンツを生成していることが主な理由です。

xAIはポリシーを更新し問題を解決したと主張していますが、独立した研究者やジャーナリストによるテストでは、更新後もnonconsensual性的コンテンツの生成が確認されています。

男性のリクエストに対してGrokが女性と同様に露骨なコンテンツを生成するという問題も残っており、コンテンツモデレーションの技術的限界が浮き彫りになっています。

この事件は、政府がAIツールを採用する際のデューデリジェンスと安全基準設定の重要性を改めて示すものです。

xAIがGrokの問題に十分対処できなければ、企業・政府の信頼を失い、競合他社に市場を明け渡す結果になりかねません。