LangChainがエージェント基盤カスタマイズ用ミドルウェア機構を公開
ミドルウェアの仕組み
フックでループ各段階に介入
PII除去やコンプライアンスを確実適用
実行時にツールやモデルを動的切替
コンテキスト要約でトークン超過防止
Deep Agentsの評価手法
行動単位の標的型evalを重視
正確性・効率性・遅延の多軸計測
理想軌道との比較で無駄なステップ検出
pytestとCI連携で再現性確保
詳細を読む
LangChainは、AIエージェントの中核ループをカスタマイズできる「AgentMiddleware」機構を公開しました。モデル呼び出しの前後やツール実行時にフックを挿入し、業務固有のロジックを組み込めます。
ミドルウェアはコンポーザブル設計で、PII検出・動的ツール選択・コンテキスト要約・リトライ制御など主要パターンが標準搭載されています。開発者はAgentMiddlewareクラスを継承し、独自のビジネスロジックも追加できます。
同社のDeep Agentsはこのミドルウェア基盤上に構築されたオープンソースのエージェントハーネスです。ファイルシステム管理・サブエージェント・要約・スキル開示など複数のミドルウェアを組み合わせ、本番運用に耐える構成を実現しています。
Deep Agentsの品質管理では、大量のベンチマークを闇雲に追加するのではなく、本番で重要な行動を特定し、それを検証可能な形で計測する標的型evalを設計しています。正確性に加え、ステップ比率・ツール呼び出し比率・遅延比率・解決速度の多軸で効率性も評価します。
評価データは自社のドッグフーディングやTerminal Bench・BFCLなど外部ベンチマークから厳選し、各evalにカテゴリタグと目的を明記しています。全実行トレースをLangSmithに記録することで、チーム全体での障害分析と継続的改善を可能にしています。