詳細を読む
米データベース大手MongoDBでAI担当フィールドCTOを務めるピート・ジョンソン氏が8月10日、米メディアVentureBeatへの寄稿で、トークン消費量を競う「トークンマクシング」の時代は終わったと指摘しました。2026年上半期に6カ国15都市で100件を超える顧客と対話した結果、企業が同じ結論に収れんしつつあると述べ、次の焦点はエージェント向けの記憶基盤だと主張しています。
主張の核心は、コンテキストウィンドウこそが希少資源という点にあります。課題はプロンプトに情報を詰め込むことではなく、何を入れるかを決めることであり、その答えがモデルの外側に置く永続的で検索可能な記憶だと説明します。過去の生成結果を保存し、役割ベースのアクセス制御をかけ、意味検索で必要なものだけを呼び出す三つの機能が要件です。
企業で広がりつつある構成は、記憶基盤と軽量モデルの組み合わせです。新しい問い合わせが来ると記憶を意味検索して候補を並べ替え、多くはオープンウェイトの軽量モデルに「そのまま返せる品質か」だけを判定させます。十分なら高価な生成モデルを使わずに回答でき、不十分な場合だけ上位モデルに回して、その結果を記憶に書き戻す流れです。
この設計では、高価なモデルが一度出した答えが、次回以降は安価な回答に変わります。使うほどコストと速度が改善する構造で、利用量に比例して費用が伸び続ける従来型とは逆の曲線を描きます。すでに支払った推論をセッション終了とともに捨てないことが、エージェントの経済性を左右するという指摘です。
成熟した記憶は短期・長期の二分法ではなく、人間の記憶のように型を持つと同氏は見ています。社内の用語や定義を保持する分類的記憶、作業手順や順序を保持する手続き的記憶が例で、型の体系づくり自体がまだ学習途上だと述べます。さらに、価値ある記憶の多くは人が入れたものであり、選別と再投入、ノイズの剪定という運用が資産化の条件になると強調しました。
データベースの歴史が約60年なのに対し、AIエージェントはおよそ18カ月にすぎず、同氏は生まれて間もない「ベストプラクティス」に謙虚であるべきだと促します。エージェント開発にはまだLAMPスタックのような定番構成がないものの、最初に当たり前の選択として固まる層は記憶だろうと予測しました。なお、この記事はMongoDBがスポンサーとなった寄稿です。