詳細を見る
Red Hatでポートフォリオ戦略を統括するBrian Gracely氏は、VentureBeatが開催したAI Impactイベントで、AIエージェントを本番環境まで拡大できる企業とパイロットで停滞する企業を分ける要因を語りました。同氏が挙げたのはコスト規律、自律システム特有のセキュリティ死角、そして組織の摩擦という3点です。多くの企業は競合に後れを取ることを恐れますが、実際には構築を始めれば学習は想定より速く進むと指摘しました。
課題は、その学習の速さがコスト急増を招く点にあります。エージェントの利用量はチャットボット時代の桁違いに大きく、AIコストは技術部門の懸念から経営会議の議題へと変わりつつあります。少数のモデルプロバイダーへの依存も強まり、Gracely氏は上位2〜3社が赤字を公表している現状を踏まえ、多くの企業が代替手段を模索していると述べました。
コスト削減で最も効くのは、タスクの複雑さに応じてモデルを適正化することだと同氏は強調します。保険金請求の処理に高性能モデルは不要であり、リクエストを分類して適切なモデルへ振り分ける意味ルーティングや、反復クエリのキャッシュがGPU負荷を抑えます。クラウド費用を管理してきたFinOpsの枠組みは、トークン支出の規律にもそのまま応用できるといいます。
セキュリティでは、AIが脆弱性を高速に発見する時代に修正適用の速さが決定的になります。Gracely氏は、多くの企業に残される猶予は7〜14日程度だと見積もります。単独では軽微な弱点が連鎖して危険になる組み合わせをAIが突くため、ソフトウェアを迅速に更新する能力は運用課題から戦略的能力へと変わりつつあります。
最終的にエージェントが普及するかは、知識を託される現場の専門家の深い関与にかかっています。同氏は、参加者が自分の仕事を奪われると感じないよう、インセンティブ設計と協力を促す仕組みが不可欠だと語りました。技術だけでなく組織文化の設計こそが、AIエージェント定着の鍵を握ります。