マイクロソフト、新AI機能のデータ窃盗リスクを公式警告

マイクロソフトは11月19日、Windows向けの新機能「Copilot Actions」において、デバイスへの感染や機密データの窃盗につながるリスクがあると警告しました。同社はこの実験的なAI機能を有効にする際、セキュリティへの影響を十分に理解した上で利用するようユーザーに求めています。

「Copilot Actions」は、ファイル整理や会議設定、メール送信などの日常業務を自律的に実行するエージェント機能です。ユーザーに代わって複雑なタスクを処理し、ビジネスの生産性と効率性を飛躍的に高める「能動的なデジタル・コラボレーター」として設計されています。

しかし、基盤となる大規模言語モデル（LLM）には脆弱性が残ります。特に懸念されるのがプロンプトインジェクションです。これは、Webサイトやメールに含まれる悪意ある指示をAIが正規の命令と誤認し、攻撃者の意図通りに動作してしまう現象を指します。

また、事実に基づかない回答を生成するハルシネーションも依然として課題です。セキュリティ専門家からは、危険性が十分に制御されていない段階で新機能を推進するビッグ・テックの姿勢に対し、厳しい批判の声が上がっています。

AIによる自動化は魅力的ですが、現段階では人間の監督が不可欠です。経営者やエンジニアは、新機能の導入による生産性向上とセキュリティリスクを天秤にかけ、慎重な運用設計と監視体制を行う必要があります。