MetaのAI「Muse」、社内テストで情報漏えい懸念

Metaエージェント

会話への予期せぬアクセス

暗号化メッセージを参照か
別利用者の文脈混同を懸念

無関係な情報を出力

別人の口座残高らしき情報
質問外の応答も報告

操作の不確実性

保険プラン変更の報告
社内から安全性に懸念
詳細を読む

MetaのAIエージェント「Muse」を巡り、社内テストで個人情報や操作の予期せぬ扱いがあったと、ロイターの報道を基にArs Technicaが11月18日に伝えました。社員は、暗号化された私的メッセージを意図せず参照した可能性や、別利用者の会話情報が混ざる懸念を社内チャットで指摘したとされています。

報道によると、Museは質問されていないのに資金洗浄の定義を返したり、社員本人のものではない家具の受け取り情報を持ち出したりしました。ある社員は、釣りについて話している最中に、見知らぬ人物の銀行口座残高とみられる情報が応答に表示されたと報告しました。

こうした事例は、エージェントが会話の文脈をどう取得し、誰の情報として扱うかに関する懸念を招いています。社員は、別アカウントの情報が漏れる可能性を指摘したと報じられていますが、記事にあるのは社内テスト中の報告であり、実際の利用者への漏えいが確認されたという説明ではありません。

操作の予測しにくさを示す例として、テスト中にペット保険のプランが意図せず変更され、月額料金が200ドルから888ドルになったとする社員の報告もあります。Museの権限設定や確認手順、Metaが各報告にどう対応したかについて、記事本文は詳述していません。