詳細を読む
OpenAIは8月25日、独自開発の推論チップJalapeñoの初となるベンチマーク結果を公開しました。半導体イベント「Hot Chips」での発表に合わせ、第三者機関SemiAnalysisのベンチマーク「InferenceX」を用いてNvidiaのGB200・GB300システムと比較し、電力あたりの処理性能と応答速度の両面で上回ったと報告しています。
具体的には、公開モデルのGPT-OSS 120B、DeepSeek R1、Kimi K2.5 1Tの3種で検証したところ、電力1kWあたりの処理性能は比較システムの1.5〜1.9倍、応答までの遅延は1.7〜3.6倍短縮したとしています。特にKimi K2.5では遅延が3.4倍改善し、対話型のインタラクティブな用途でも高い性能を発揮しました。
Jalapeñoは半導体大手Broadcomと共同開発したASIC(特定用途向け集積回路)で、プリフィルとデコードの両フェーズで発生しがちな待ち時間を最小化する設計が特徴です。OpenAIのRichard Hoハードウェア責任者は記者会見で「電力あたりの処理量と低遅延を両立できた」と説明しました。
OpenAIは2026年末までにJalapeñoを少量展開し、2027年にかけて本格的に量産を拡大する計画です。ただし既存のチップ構成を全面的に置き換える予定はなく、Nvidiaなど従来のパートナーとの併用を続けるとしています。
同日公開の関連記事でOpenAIは、Jalapeñoを含むMicrosoft、AWS、AMD、Broadcomなど複数パートナーによる計算資源の組み合わせを、経済性と性能の両立を狙う全体戦略と位置づけています。効率化が進むほど利用が拡大する「ジェボンズのパラドックス」を挙げ、コスト低減が新たな需要を生む好循環を強調しました。