出典：The Verge
詳細を読む
イーロン・マスク率いるxAIは、AI生成の百科事典「Grokipedia」をバージョン0.2へ更新し、一般ユーザーからの編集提案を受け付け始めました。しかし、その審査と反映を担うのがAIチャットボット「Grok」であるため、品質管理と透明性の面で深刻な混乱が生じています。
最大の問題は、編集プロセス全体をAIが独占している点です。Grokはユーザーの提案に対し、明確な基準なく承認や拒否を行っており、同じ内容でも言い回し次第で判断が覆るなど一貫性が欠如しています。AIは容易に説得され、情報の正確性が担保されていません。
信頼性を支える透明性も致命的に不足しています。Wikipediaのような詳細な変更履歴や編集者の追跡機能がなく、どのような改変が行われたか検証する手段がありません。既存のログ機能は貧弱で、システムがブラックボックス化しており、情報の正当性を確認することは不可能です。
人間の管理者による監視体制がないため、歴史的事実の歪曲や悪意ある荒らしに対して極めて脆弱です。適切なガバナンスとHuman-in-the-loopの仕組みを欠いたままの運用は、知識ベースとしての価値を損ない、偽情報の温床となるリスクを高めています。