Writerの新手法、AIのトークン消費38%削減
詳細を読む
AI開発企業Writerの研究者は2026年7月、基盤モデルを変えずにAIエージェントの運用コストを大幅に下げる手法を論文で公開しました。モデルを包むオーケストレーション層(ハーネス)を最適化することで、タスクあたりのトークン消費を38%、コストを41%削減しつつ、品質を維持できると示しています。エンジニアリングチームがモデルの再学習なしに適用できる点が特徴です。
背景にあるのはtokenmaxxingと呼ばれる業界の悪弊です。良い設計の代わりに巨大なコンテキストと大量のトークンを力任せに投入する手法で、同社CTOのWaseem AlShikh氏は「請求額はタスク単価×トークン単価だが、多くのチームは後者しか見ていない」と指摘します。エージェントではループのたびに膨らむ文脈が再送され、トークン量が単価下落より速く膨張するため、価格低下が非効率を覆い隠す麻酔になっていると言います。
研究チームはClaude Sonnet 4.6やGemini 3.1、Writer独自のPalmyra X6など6モデルで、22件の企業タスクを固定して検証しました。従来型のエージェントループと最適化済みのWriter Agent Harnessを比較した結果、トークン量は1.42万から8800へ、平均コストは21セントから12セントへ低下しました。処理時間の中央値も48秒から27秒へと44%短縮しています。
一方でマルチエージェント構成には限界も見えました。検索などを担うサブエージェントへの委譲が実用水準に達したのはPalmyra X6とClaude Sonnet 4.6の上位2モデルのみで、Gemini Flash 3.5やQwen 3.6など軽量モデルは信頼性の閾値を大きく下回りました。委譲能力はまだ軽量モデルでは安定しないということです。
実務者向けの指針として同氏は、静的な指示を上部、動的な要素を下部に置くTwo-Zoneプロンプトでキャッシュを効かせること、履歴を外部に退避させるコンテキストオフローディングを挙げます。さらに「モデルに自らの支出を監視させてはならない。防護柵はモデルの下、コード側に置く」として、タスクごとの厳格なトークン上限や失敗後の支出抑制を勧めています。
ただし最適化には工数がかかるため、試作段階では軽いハーネスで素早く反復すべきだとも述べます。恩恵が大きいのは1日数百万リクエスト規模に達した段階です。モデルが計画や推論を自ら担うようになるほど、ハーネスの役割は能力補完から予算・権限・監査といった統治の徹底へ移り、企業が手放すべきでない層になると同氏は展望しています。