Amazonの記録型AIウェアラブル、記憶を揺さぶる誤要約

The Vergeのビクトリア・ソング記者は、Amazon Bee Frontierを約3週間使い、会話の記録とAI要約が本人の記憶や感情と食い違う体験を報告しました。Beeは常時会話を聞き取り、文字起こしや要約、行動提案を生成するウェアラブルです。

製品は発言者や冗談を取り違え、存在しない家族関係や猫の名前を記録することがありました。深刻な話題では、本人が覚えている感情と異なる解釈を断定的に示し、過去のつらい体験を要約された際に強い不快感を覚えたといいます。

Grow機能は趣味の会話を基に、活動を絞って成果を出すよう助言しましたが、記者は読書や手芸の実績を無視した不適切な評価だと反論しました。政治の雑談からも、本人の活動歴にそぐわない行動提案が作られたと述べています。

記者のセラピストは、AIの解釈を自分の直感より優先すると、反すうや不安を強める恐れがあると指摘しました。記事は、会話記録の精度だけでなく、心理的な文脈や装着者が録音を忘れてしまう設計上の問題を提起しています。