詳細を読む
半導体大手のNVIDIAは7月7日、AIエージェント時代に向けた新型CPU「Vera」を、大規模環境で単一スレッド性能を最大化する新カテゴリーの製品として紹介しました。同社は、AIエージェントがツール実行やコード処理を繰り返す「エージェントループ」において、各処理を高速に終えるコアあたりの性能こそが重要だと主張します。従来のデータセンター向けCPUがコア数の拡大を優先してきたのとは対照的な設計思想を打ち出しています。
なぜ単一スレッド性能を重視するのでしょうか。AIエージェントは前の処理結果を受けて次の判断を下すため、処理が逐次的に連なるからです。同社によれば、コア数を増やしてもループ内の各ステップは短縮できず、むしろコア同士が資源を奪い合って性能が落ちる場合もあるといいます。
Veraの中核は独自コア「Olympus」で、従来品のGraceに比べIPCが50%高いとしています。メモリ帯域は最大1.2TB/s、コア間帯域は3.4TB/sに達し、88の全コアがボトルネックなく動作すると説明します。エージェント処理を模した高負荷環境では、x86比で1.8倍の持続的なコア性能を示したとのことです。
実際の検証も進んでいます。検索AIのPerplexityは、リポジトリの複製とテスト実行を伴う開発作業でx86比約1.5倍高速だったとし、本番環境への導入を検討中です。データ処理でもStarburstのSQL分析が3倍、Redpandaの配信遅延が最大6分の1になったといいます。
VeraはGPUを搭載する「Vera Rubin」と同一のCPUでもあり、AIファクトリー全体を単一アーキテクチャで動かせる点を同社は強みに挙げます。さらに次世代コア「Rigel」を採用するCPU「Rosa」も計画しており、エージェント時代に向けたロードマップを継続する構えです。