Hugging Face、確率で選ぶAI判断モデルを共通化

Hugging Faceは11月10日、文章を生成せず、与えられた情報と質問、回答候補から確率付きの判断を返す「Decision Model（判断モデル）」の共通インターフェースを紹介しました。問い合わせの担当部署や緊急度、返金希望の有無などを一度に評価でき、ソフトウェアが扱う分類や振り分けの実装を簡潔にする狙いです。

従来のLLMにJSONで回答させる方法では、形式違反や候補外の回答が起きる可能性があります。JSON制約を設けても、選ぶだけの処理に文章を逐次生成する計算は残ります。判断モデルは候補ごとの確率を直接評価し、選択肢、順序尺度、真偽の確率という型付きの結果を返します。

従来型の分類器は出力ラベルが固定され、ゼロショット分類は推論時に候補を渡せます。一方、判断モデルの特徴は複数の質問と異なる回答形式を一つの仕組みで扱う点です。確率分類そのものを新発明したのではなく、アプリが利用する判断を統一形式で扱いやすくします。

Hugging Face TransformersにはDecisionPipelineや専用モデル・設定クラスが用意され、ローカルサーバー経由のAPIも利用できます。llama.cppも同じ形式のAPIに対応し、モデルを替えてもアプリ側の接続を共通化しやすくなります。Hubでのモデル発見や、Trainerを使った微調整も記事で紹介されました。

対応する自己回帰型LLMでは、候補ラベルのスコアをまとめて評価し、文章を生成せずに確率を計算する方法も示されています。ただし、判断モデルは発展途上で、内部の仕組みや対応モデルは多様です。業務で使う場合は、候補設計に加えて確率の信頼性や誤判定時の扱いを検証する必要があります。