Uber、Claude Codeの設定でAI費用を抑制
出典:VentureBeat
詳細を読む
UberはClaude Codeなどの対話型コーディング支援で、文脈量や推論強度、キャッシュ、ツール読み込みを管理し、AI利用コストを抑えています。Uberのエンジニアリング幹部は、AI需要が伸びる中で、個々の開発者に任せず全社共通の設定を運用していると説明しました。
同社は自動圧縮のしきい値を40万トークンに設定し、推論強度は「中」を初期値にします。長い文脈は各リクエストの処理費用を押し上げ、推論を強めると使用トークンが増えるためです。
プロンプトキャッシュの保持期間はメインエージェントで1時間、サブエージェントで5分に設定します。また、100を超えるツールの説明文を起動時に一括投入せず、中央のMCPゲートウェイにつながるコマンドを必要に応じて呼び出します。
Uberは従業員群ごとに設定をA/Bテストし、入出力指標やキャッシュ利用率を見て調整します。同社の報告では、最適化全体でリクエスト当たりコストはピークから約34%、セッション当たりは6月のピークから52%下がりました。
モデル選定では、古い機能フラグの整理作業で適切なモデルを選んだ結果、作業単価を90%削減したと幹部は述べています。記事は、用途ごとに必要な文脈とモデル性能を見極めることが、AI導入の費用管理に重要だと伝えています。