AIエージェント、評価通過後に半数が本番で失敗

米メディアVentureBeatは2026年7月16日、従業員100人以上の157社を対象とした調査を公表し、企業がAIエージェントに与える自律性と、それを検証する評価テストへの信頼との間に大きな評価ギャップがあると指摘しました。過去1年で半数の企業が、社内評価を通過したエージェントを本番投入後に顧客対応で失敗させた経験を持ちます。

評価テストへの信頼は薄いのが実情です。自動評価を全面的に信頼すると答えた企業はわずか5%にとどまり、最も多い不満は評価が現実の結果と一致しない点（29%）でした。合格した評価が、必ずしも動くエージェントを意味しないと企業は気づき始めています。

それでも自律化の流れは止まりません。3分の2（66%）の企業が、低リスクのエージェントについて人間の確認なしで本番反映することを既に容認、または1年以内に可能にすべく準備を進めています。意外にも大企業の方が無人化で先行しており（70%対64%）、規制の厳しい組織ほど慎重という通説は当てはまりませんでした。

監視とツールにも死角があります。本番稼働中に出力の正しさをリアルタイムで確認している企業は23%にすぎず、多くは稼働状況やコストしか見ていません。評価基盤は提供元の純正ツールと「専用ツールなし」がともに首位で断片化しており、64%が1年以内の導入や乗り換えを計画しています。

注目すべきは投資先です。今後1年で最も伸びる投資は本番監視で、次いで人間によるレビュー（26%）が続き、自動評価基盤（16%）を上回りました。企業は自律化を進めながらも、自動評価だけでは任せきれない判断のために人の目を残す、いわばヘッジの姿勢を示しています。