詳細を読む
Googleが家庭用監視カメラNestに導入した新AI「Gemini for Home」は、映像を詳細な文章で通知する便利な機能を持つ一方で、事実と異なる内容を生成する「幻覚（ハルシネーション）」が課題となっています。米メディアThe Vergeによるレビューで、その利便性とセキュリティ製品としての信頼性における深刻な問題点が明らかになりました。
この新機能は、カメラが捉えた映像をAIが解釈し、「誰が、何をしているか」を具体的に文章で通知します。例えば「人物を検知」ではなく「息子さんが玄関にいます」と通知することで、利用者の不要な不安を軽減する効果が期待されます。通知の精度向上は、多くのユーザーにとって歓迎すべき進化と言えるでしょう。
しかし、1日の出来事を要約する「Home Briefs」機能では、深刻な問題が報告されました。実際にはいなかった人物が家族と過ごしたかのように記述するなど、AIが事実に基づかない物語を創作してしまうのです。セキュリティを目的とするシステムにおいて、このような不正確さは致命的な欠陥になりかねません。
さらに懸念されるのが、危険物の誤認識です。レビューでは、利用者がショットガンを持って家を出た際、AIはそれを「園芸用具」と通知しました。また、ナイフを意図的に認識しないような挙動も見られ、セキュリティシステムとしての根幹を揺るがす重大な課題が浮き彫りになっています。
今回のレビューは、AIを監視システムに応用する際の難しさを示唆しています。リアルタイム通知の精度向上は評価できるものの、AIによる解釈や要約が加わることで新たなリスクが生まれます。AIが家庭内で信頼されるパートナーとなるためには、利便性の追求だけでなく、揺るぎない正確性と信頼性の担保が不可欠です。