Hugging Face、ローカル向けInkling 2 Miniを公開
出典:Hugging Face
詳細を読む
Hugging Faceは2026年11月20日、Thinking Machines Labと連携し、ローカル環境向けのマルチモーダルモデル「Inkling 2 Mini」を公開しました。Mixture-of-Experts(MoE)構成で総計約260億、トークンごとの稼働パラメーターは約30億とし、画像とテキストを入力でき、最大100万トークンの文脈に対応します。
モデルは24の物理層を持ち、そのうち中間の12層を3回繰り返して実行します。重みを再利用しながら計算時には48層相当の訪問を行う設計で、Hugging Faceは小規模なローカル構成での利用を想定しています。
配布形式にはNVFP4とMXFP8の専門家重みを含み、推論を速めるDSpark drafterも提供します。実行環境としてTransformers、llama.cpp、MLXをサポートし、データセンター向けにはSGLangも初日から対応するとしています。
Hugging Faceの発表によると、Artificial Analysis Intelligence Index v5などの評価で同クラスの複数モデルと比較し、48ベンチマーク中32項目で優位でした。コーディング、ツール利用、視覚理解、推論、安全性などを含む結果ですが、同社自身も一部比較は追加検証が必要と記しています。
固定3回ループの通常版に加え、ループ回数を1回や2回に変更できる研究用モデルも公開されました。ループ数を減らせば推論は速くなる一方、生成品質がやや下がる可能性があり、十分な評価はこれからです。