詳細を読む
米メディアのVentureBeatは7月23日、従業員100人超の企業107社を対象にしたAIエージェントのセキュリティ調査結果を公表しました。それによると過半数の54%が既にエージェント絡みの事故または未遂を経験しており、内訳は確定した事故が18%、被害前に食い止めた未遂が36%です。一方で各エージェントに固有のIDを付与している企業は3割にとどまり、多くが認証情報を共有したまま自律エージェントを社内システムに接続している実態が浮かびました。
最大の弱点は認証情報の管理にあります。全エージェントにスコープを絞った固有IDを与えている企業はわずか32%で、残りは一部が共有していたり、共通のAPIキーや人間・サービスアカウントの認証情報を流用したりしています。認証情報を共有していると、乗っ取られたり過剰な権限を持ったりした1体のエージェントが広範囲に影響を及ぼし、事故後の追跡でどのエージェントが何をしたか特定できなくなります。
被害を封じ込める対策も手薄です。挙動を監視する企業は47%、実行時に権限を制限する企業は49%ある一方、高リスクのエージェントをサンドボックスで隔離しているのは3割にすぎません。認証情報を共有する企業の事故・未遂率が63.5%と、固有IDを徹底する企業の40.9%を大きく上回っており、身元管理の甘さが被害と結びついている構図がうかがえます。
防御に使う道具の多くは、モデル提供元やクラウド大手が用意した付属機能です。OpenAIのガードレールが51%で首位に立ち、GoogleやMicrosoftのクラウド機能、Anthropicの管理機能が続く一方、エージェント専門のセキュリティ製品はほとんど採用されていません。満足度は5点満点で4.2と高いものの、セキュリティ予算に占める割合は1割未満が大半で、投資が追いついていない様子です。
それでも安心はできません。自社のAI防御が攻撃者を上回っていると考える企業は35%にとどまり、過半数は互角か攻撃者優位と見ています。今後1年以内に対策を刷新・追加する予定の企業は59%に上り、事故を経験した企業ほど購買と危機感が高まる傾向が鮮明で、自律エージェントの普及に防御が追いつくかが問われています。