NVIDIAの新埋め込みモデルがRTEB首位
出典:Hugging Face
詳細を読む
NVIDIAは7月16日、検索特化の埋め込みモデル群Nemotron 3 Embedを公開しました。旗艦の8Bモデルは、検索性能を測る指標RTEBのリーダーボードで1位を獲得し、スコアは78.5%に達しました。RAGやエージェント検索、コード検索、エージェントの記憶といった本番環境での利用を想定し、開放重みと商用利用が可能なライセンスで提供されます。
性能面では、8BモデルがRTEBで78.5%、MMTEB Retrievalで75.5%を記録しました。小型の1B(BF16)版もRTEBで72.4%を達成し、前世代の1Bモデルと比べて誤り率を27%削減しています。検索精度が上がると関連情報を早く返せるため、エージェントの無駄な再検索や推論の往復が減り、下流のトークンコスト削減にもつながると説明しています。
特徴として、32kのコンテキスト長に対応し、長文書や大規模なコード、複数ターンの対話履歴を扱えます。多言語とコード検索に対応するほか、Blackwell向けの4bit形式であるNVFP4版は、BF16比で最大2倍の処理速度を実現しつつ精度を99%以上維持します。開放重みに加え微調整や蒸留のレシピも公開され、企業が自社データへ適応させやすくしています。
8BモデルはMistralのMinistral-3-8Bを基盤とし、因果デコーダを双方向エンコーダへ変換して構築しました。1B版は構造的な枝刈りと蒸留を繰り返して圧縮したものです。すでにIBMやPalantir、ServiceNow、Zoomなどが評価を進めており、Hugging FaceやNVIDIA NIM、vLLM経由で即日利用できます。