AIエージェント、評価不信でも無人運用が加速

米メディアVentureBeatが2026年6月に従業員100人以上の企業157社を対象に実施した調査で、AIエージェントの「評価ギャップ」が浮き彫りになりました。企業は自社の評価テストを通過したエージェントに大きな自律性を与える一方で、その評価自体をほとんど信頼していません。付与する自律性と、失敗を防ぐはずのテストへの信頼との間に生じた距離が、本調査の中心的な発見です。

最も象徴的な数字が、過半数という失敗率です。回答企業の50%が、社内評価を通過したエージェントやLLM機能を本番投入した後に顧客の前で不具合を起こした経験を持ち、4分の1は複数回経験しています。評価が「準備完了」と判定したにもかかわらず、実際には機能しなかったわけです。

信頼の薄さも際立ちます。自動評価を完全に信頼する企業はわずか5%にとどまり、残る95%が何らかの限界を挙げました。最も多い不満は「評価が現実の結果と一致しない」（29%）で、バイアスや一貫性の欠如、説明可能性の低さがこれに続きます。

それでも自律化の流れは止まりません。3分の2（66%）の企業が、低リスクのエージェントについて人間の確認を挟まない完全自動デプロイをすでに許可（34%）、または1年以内の実現に向けて構築中（33%）です。信頼できないと認める評価に本番投入の判断を委ねようとしている点に、この調査の逆説があります。

監視体制も追いついていません。本番稼働中に出力の正しさをリアルタイムで検証する企業は約4分の1にすぎず、半数はシステムが動作しているかだけを見ています。確信を持って誤答した場合、稼働監視では異常として検知できない盲点が残ります。

評価ツール市場も未成熟です。首位はプロバイダー純正ツールと「専用ツールなし」が17%で並び、標準となった独立系製品はまだありません。ただし6割超が1年以内の新規導入や乗り換えを計画しており、次の投資先としては自動化よりも人間によるレビュー体制の強化が目立ちます。