誤情報の内容と対応
2077年の設定を1950年代と誤認
人物の行動や選択も不正確に描写
全対象作品から機能を削除して対応
出典：The Verge
詳細を読む
Amazon Prime Videoは、AI生成によるドラマの「あらすじ動画」機能をプラットフォームから削除しました。人気作品『Fallout』の要約において、物語の設定に関わる重大な事実誤認が発覚したためです。AI活用におけるハルシネーション（もっともらしい嘘）のリスクが顕在化した事例といえます。
具体的には、物語の重要な回想シーンの年代を「2077年」ではなく「1950年代」と誤って解説していました。また、登場人物の心理描写や選択肢についても、文脈を無視した不正確な要約が行われており、作品のファンやメディアからの指摘が相次ぎました。
この機能は先月からテスト運用されていましたが、現在は『The Rig』や『Jack Ryan』など他の対象作品からも一斉に削除されています。UX向上におけるAIの可能性は大きいものの、コンテンツの正確性の担保には依然として人間の監修（Human-in-the-loop）が不可欠です。