判断モデル利用急増、顧客データで差別化競う

広がる判断モデル

Vercel経由の4分の1超
AzureでMicrosoft製品を展開
TypeSafeのJevが利用を主導

継続調整が競争軸

Sqwishが300万ドル調達
顧客データで判断を改善
精度・速度・費用の両立
詳細を読む

VercelのAIモデルルーターでは10月、リクエストの4分の1超が大規模言語モデル(LLM)ではなく「判断モデル」に向かいました。あらかじめ定めた選択肢から、信頼度を示しながら素早く選ぶモデルです。企業の本番環境では、時間や費用を抑えて判断する用途が広がっています。

この分野ではTypeSafeのJevシリーズが利用を主導し、OpenRouterでは先週、同社モデルへの問い合わせが15億件を超えました。一方、Jevの登場後に類似モデルが相次ぎ、Amazonのエンジニアが週末に試作したほか、各大手クラウド企業も参入しています。MicrosoftはAzure向けのMicrosoft-Decision-1.1を一般提供しました。

英国のスタートアップSqwishは、判断モデル「kettei fat」を手掛け、300万ドルのプレシード資金を調達しました。同社は顧客が自社の本番データを投入し、後学習ツールでモデルの判断を継続的に改善できる点を売りにします。共同創業者は、顧客が重視する業務に合わせてモデルを育てられると説明しています。

成功の鍵はデータの調整です。TypeSafeのCEOは、統計的に調整した合成データで判断を細かく較正することがJev開発の難所だったと話しました。Sqwishも合成データを活用し、顧客データによる継続調整を差別化要因に据えています。

各社はベンチマークの順位だけでは実運用の性能を測れないと指摘します。Microsoftの開発責任者は、精度、信頼性、速度、費用効率を同時に満たす難しさを挙げ、未公開の実利用に近い評価も重視すると説明しました。Sqwishは、判断モデルと高性能LLMが連携する将来を見込み、特定業務で顧客をつなぎ留める継続調整を競争軸にしています。