出典：NVIDIA公式
詳細を読む
エヌビディアは7月14日、AIインフラの効率を測る究極の指標は「電力あたり性能（パフォーマンス・パー・ワット）」だとする見解を公式ブログで示しました。同社の最新のGB300 NVL72は、従来のHopper世代と比べて電力あたり性能を最大25倍に高めたとしています。電力が事実上の制約となるなか、限られた電力枠でどれだけトークンを生み出せるかが収益と利益を決めるという主張です。
背景には、エージェントAIの普及によるトークン需要の急拡大があります。現在の最先端モデルはほぼ全てがMixture-of-Experts（MoE）構造を採用しており、これを効率よく動かすにはGPUを高速接続する「ドメイン」の規模が重要になります。Hopper世代の8GPUに対し、Blackwell世代は72GPUへと拡大し、大規模モデルの処理効率を引き上げました。
電力あたり性能の高さは、シリコンからソフトウェアまでを一体で設計する「コーデザイン」の成果だと同社は説明します。NVLink SwitchやDynamo、TensorRT LLMといった推論ソフト群がNVFP4量子化や分散処理を束ね、GPU一台あたりの性能を積み上げます。電力管理ソフトのDSX MaxLPSを使えば、同じ電力枠内で最大40%多くのGPUを稼働できるとしています。
実運用での実績も強調しました。AnthropicやOpenAIといった主要なAI企業が、推論処理にBlackwell NVL72を採用していると明かしています。加えてCoreWeaveやPerplexity、Fireworks AIなどの事業者も同基盤でオープンモデルを提供しており、こうした運用経験が次世代のVera Rubin基盤の優位につながると位置づけました。