詳細を読む
2025年12月14日、オーストラリア・シドニーのボンダイビーチで発生した銃撃事件において、xAIのチャットボット『Grok』がX（旧Twitter）上で誤情報を繰り返し拡散し、TechCrunchとThe Vergeが相次いで報じた。
Grokが誤認したのは、銃撃犯の一人を素手で取り押さえた43歳のアーメド・アル・アーメド氏の身元だ。同氏は実際の英雄として広く称賛されているにもかかわらず、Grokは複数の投稿で別人の名前や写真を誤った文脈で提示した。
具体的には、アル・アーメド氏の写真をハマスに拘束されたイスラエル人質と誤認したほか、現場を撮影した動画を『サイクロン・アルフレッド』時の別映像と誤って説明した。
さらにGrokは、AIで生成されたとみられるフェイクニュースサイトの記事を参照し、架空のIT専門家『エドワード・クラブツリー』が犯人を取り押さえたと主張する誤情報を拡散させた。
誤情報の連鎖はそこで止まらなかった。Grokはオラクルの財務に関する質問に対して射撃事件の要約を返答するなど、クエリの解釈自体が広範に混乱していた様子が確認された。
誤りが指摘されると、Grokは一部の回答を『再評価の上、修正した』と説明したが、それはあくまで事後対応に過ぎず、根本的な問題は解決されていない。
今回の件はGrokに限った問題ではなく、AIチャットボット全般がリアルタイムの重大事件においてファクトチェックの代替となりえないことを改めて示す事例となった。
The Vergeは、GrokがX上の誤情報の流布に直接加担した点を特に問題視し、xAIのチャットボットとしての信頼性に根本的な疑問を呈している。