詳細を読む
決済スタートアップのBrexは、AIエージェントの挙動をネットワーク層で統制する社内基盤「CrabTrap」を開発し、オープンソースで公開しました。すべての通信を傍受するHTTP/HTTPSプロキシがポリシーを照合し、判断が難しい要求はLLMが審査して承認可否を決めます。従来のガードレールでは制御しきれなかったエージェントの権限行使に、新たな防御層を設ける狙いです。
同社が着目したのは、これまで手薄だった通信層です。APIトークンやSDK単位の権限は回避や設定負担が大きく、プロンプトインジェクションにも弱いとされてきました。Brexは全エージェントと全リクエストの間に立つ層こそ有効だと考え、環境変数でプロキシを通すフレームワーク非依存の仕組みを採用しました。
特徴は、ポリシーを白紙から書くのではなく実際の通信から学習する点です。エージェントをシャドーモードで動かして過去のトラフィックを分析し、実挙動に沿った自然言語のポリシーを自動生成します。CEOのペドロ・フランチェスキ氏は、この方式が白紙から始めるより劇的に効果的だったと語ります。
懸念された遅延は大きな問題にならなかったといいます。LLM審査が動くのは未知の要求など全体の約3%にとどまり、Claude Haikuのような小型高速モデルを使うことで追加の遅延はごくわずかでした。プロンプトインジェクション対策として、リクエストをJSON構造にして利用者由来の内容を無害化しています。
公開後の反響は想定を上回り、GitHubのスターは700を超えました。OpenAIやY Combinatorのギャリー・タン氏らも同様の基盤導入に関心を示しています。フランチェスキ氏はインフラの不足を待つ言い訳にせず課題は自分たちで引き受けられると、他社の開発者に助言しています。