詳細を読む
LinkedIn、Walmart、Zendeskのインフラ責任者3人は、AIイベント「VB Transform 2026」のパネルで、AIエージェントの本番展開を阻むのはモデルではなくレガシー基盤だとの共通見解を示しました。3社はそれぞれ異なる起点から検証しましたが、直面した障害はいずれもモデルの問題ではなく、人間の働き方に合わせて作られた既存インフラが、桁違いに速いエージェントの動作速度に追いつけない点にあったと説明します。
LinkedInが最初にぶつかった壁は、コンテナを必要時に起動する前提のKubernetesの遅さでした。同社はこれを事前確保したコンテナプールへ切り替え、エージェントの処理を実時間で入れ替える方式に改めました。さらにLLMが別のLLMの出力を評価する構造では幻覚が残るため、独自の制御フローを構築し、約8割の工程を決定論的なコードで固め、推論が要る箇所だけLLMを使う設計にしたといいます。
Walmartの課題は成功から生まれました。社員に配ったエージェント基盤が社内で急速に広まり、「市民開発者」が独自のエージェントを次々に作った結果、調整のない重複したエージェントが乱立したのです。同社は基盤の利用を制限するのではなく、重複を検知して最良版を本番へ引き上げるガバナンスの構築で対応しました。
Zendeskはデータ側で壁に直面しました。同社は約200億件の顧客対話を抱えますが、それを大きな文脈窓を持つLLMにそのまま渡してもうまくいかないため、基盤となるデータパイプラインへの投資が不可欠だと説明します。
3社に共通したのは、可能な範囲は自前で持ち、フロンティアの研究所には明確な優位がある領域だけ頼るという姿勢です。LinkedInは全モデル呼び出しを統一するAIゲートウェイとモデル非依存のメモリ基盤を構築し、Walmartも社内ゲートウェイでベンダー中立を保ちます。3人が助言として挙げたのは、まず評価基盤に投資すること、エージェント基盤を初日から自社で持つこと、そして将来のモデル移行に備えて独立性を前提に設計することでした。