MetaのAIエージェントMuse、会話混同と情報露出の懸念

社員が誤動作を報告

別アカウントの会話を混同
他人の金融情報を表示

私的な情報も出現

Signalの返信通知例
本人の許可に疑問

Metaはテストと説明

社員版は一般公開版と異なる
安全対策の改善を継続
詳細を読む

Metaの従業員が、AIエージェントMuseが異なるアカウントの会話を混同し、他人の個人情報を表示したと社内投稿で報告しました。Reutersの調査報道をTechCrunchが伝えています。報告では、本人が依頼していない育児相談やキャリア助言、商品注文、銀行口座残高などが表示されたとされています。

ある社員は天気や潮位を扱うチャットに、Capital OneとCharles Schwabの残高を含む余分なメッセージが表示されたと報告しました。別の例では、個人のスマートフォン上のMuseが、暗号化メッセージアプリSignalで姉妹から届いた連絡への返信を促したといいます。

社員は、他アプリへのアクセスを許可した覚えがないとして、プライバシー侵害への懸念を示しました。記事は、これらの事例をMeta社内の投稿に基づく報告として紹介しており、独立した技術検証の結果とは区別されます。

Metaの広報担当者は、社員による試験は製品開発と安全・プライバシー保護の改善に不可欠だと説明しました。また、社員が利用するMuseは一般向けとは異なる複数のバージョンで、一般提供されていない機能や挙動も評価しているとしています。

Museは9月に公開され、記事によるとダウンロード数は1000万件を超えています。利用拡大の中で、アカウント間の分離やアプリ権限の扱いをどう確実にするかが、製品の信頼性に関わる課題として浮かびました。