詳細を読む
シスコがVBトランスフォーム2026のパネルで公表した調査結果が、企業のAI防御に警鐘を鳴らしています。同社のAI脅威インテリジェンス責任者エイミー・チャン氏によると、15の主力AIモデルに仕掛けた6,986回の多段対話攻撃のうち、会話を重ねて手口を適応させた攻撃者は最大88.3%の確率で防御を突破しました。単発の悪意あるプロンプトだけを検証する従来のレッドチーミングでは現実を捉えきれません。
この数字はチャン氏がニコラス・コンリー氏と共同執筆した研究に基づきます。30,090件の単発プロンプトと6,986件の多段攻撃を非公開の主力モデル15種に対して実施したところ、多段攻撃の成功率は7.89%から88.3%まで幅広く分布しました。全モデルが無視できない脆弱性を示し、単発と多段では危険なモデルの順位すら一致しませんでした。
背景には、企業現場で広がるエージェント事故があります。ベンチャービートが107社を対象に実施した6月の調査では、54%が確認済みのAIエージェント事故（18%）またはヒヤリハット（36%）を経験済みでした。全エージェントに専用IDを割り当てる企業は32%にとどまり、82%はプロバイダー標準の機能を主要な防御層として頼っています。
大手セキュリティ企業はこの課題を買収で埋めようとしています。パロアルトネットワークスは2月に250億ドルでサイバーアークの買収を完了し、クラウドストライクは1月にSGNLを7億4,000万ドルで取得することで合意、シスコも約4億ドルでアストリックス・セキュリティの買収を発表しました。いずれも多くの企業が整備しきれていない、ID管理と隔離の層を狙った動きです。
では何をすべきでしょうか。チャン氏は「創意工夫より基本」と語り、最小権限の徹底や使い捨てサンドボックスといった基礎の重要性を強調しました。ボックスのCISOヒーザー・セイラン氏は、監視段階に移行した自律エージェントがたった一度のミスを犯した瞬間に積み上げた信頼が崩れた事例を挙げ、攻撃者と同じく会話全体を通じて継続的にテストする必要性を訴えました。