詳細を読む
Google Researchは2026年3月25日、大規模言語モデルの推論時に肥大化するKVキャッシュを極限まで圧縮するアルゴリズム群「TurboQuant」を公開しました。メモリ使用量を平均6分の1に削減し、注意計算の性能を8倍に高めることで、企業の推論コストを50%以上削減できる可能性があります。
TurboQuantは二段階の数学的手法で構成されています。第一段階のPolarQuantはベクトルを極座標に変換し、ランダム回転後の角度分布が予測可能になる性質を利用して、従来必要だった正規化定数のオーバーヘッドを排除します。第二段階では1ビットのQJL変換が残留誤差をゼロバイアスで補正し、圧縮後も統計的に同等の注意スコアを維持します。
10万トークンの「Needle-in-a-Haystack」ベンチマークでは、Llama-3.1-8BやMistral-7Bで非圧縮モデルと同等の完全な再現率を達成しました。コミュニティでも即座に検証が進み、MLXへの移植テストでは2.5ビット量子化でKVキャッシュを約5分の1に削減しつつ精度劣化ゼロが確認されています。
発表後、MicronやWestern Digitalなどメモリ半導体大手の株価に下落傾向が見られました。ソフトウェアだけでメモリ需要を6分の1にできるとの見方が市場に広がった形ですが、効率化が利用拡大を招くジェヴォンズのパラドックスを指摘する声もあります。Cloudflare CEOは「GoogleのDeepSeekモーメント」と評しました。
企業にとっての最大の利点は、再学習なしで既存の微調整済みモデルにそのまま適用できる点です。推論サーバーのGPU台数削減、長文コンテキストのRAG活用拡大、オンプレミスでの大規模モデル運用が現実的になります。ただし現時点では研究段階であり、トレーニング時のメモリ問題は対象外である点には留意が必要です。