IBM、エージェントに渡す記憶を絞りトークン最大7分の1

IBMの研究チームは8月11日、AIエージェントが自らの実行履歴から学ぶ手法「ALTK-Evolve」について、同種技術のACEと同等以上の精度を少ないトークンで実現したとHugging Face上のブログで報告しました。AppWorldの168課題では、強いモデルで正答率89.3対80.4、1課題あたりのトークンは263Kと634Kでした。差を生んだのは学びの中身ではなく、推論時の渡し方です。

両手法はいずれも、エージェントの失敗や成功の軌跡を再利用可能な教訓に変え、重みを更新せずに推論時へ戻します。そのうえで共通して要約による圧縮を拒みます。ACEは短く一般的な指示へ収束する「簡潔性バイアス」と、書き換えのたびに詳細が失われる「文脈の崩壊」を問題視し、IBM側も各指針が何件の独立した事例に支えられているかを示す支持件数を保持します。

分かれるのは配信の設計です。ACEは一冊の包括的な手引きを育て、モデルや課題を問わず毎ステップ丸ごと注入します。IBM側は支持件数の高い中核だけを固定で置き、課題ごとに数件を選んで足す、モデルに余力があれば全量を渡すという可変方式を採ります。

効果はモデルの強さで表れ方が変わります。gpt-oss-120bでは精度56.0対54.8とほぼ互角ながら、トークンは116Kと777Kで約7分の1に収まりました。難易度別に見ると、簡単・中程度の課題では全量注入のACEが優位でも、難問では31.8対23.8と選んで渡す側が上回り、総合成績を決めています。

示唆は明快ではないでしょうか。弱いモデルほど大量の文脈は助けにならずむしろ邪魔になる一方、強いモデルは多くの教訓を渡しても互いを打ち消しません。なおACE側の数値はIBMが同一の基盤モデルと実行環境で自ら再現したもので、いずれも単一試行の結果である点は割り引いて読む必要があります。