詳細を読む
NVIDIAは8月4日、カリフォルニア州サンタクララで開幕したメモリー・ストレージの業界会議FMSで、GPUがストレージへ直接読み書きするためのAPI群「cuFile」を下層のソフト基盤ごとオープンソース化すると発表しました。AIエージェントが膨大なデータを消費し、GPU自身が数千規模の同時要求を発行するいま、演算能力だけでなくデータを供給する保存基盤が次の性能を左右するとの見方が背景にあります。
cuFileはNVIDIA GPUDirect Storageを構成する要素で、数十万規模のGPUスレッドと広帯域メモリーを使い、マイクロ秒単位でストレージ上のデータへ安全に到達できるようにする技術です。公開先のリポジトリではGoogle、Intel、NVIDIA、Metaが初期メンテナーを務め、Linuxの作法に沿った安全性優先のストレージ基盤を業界で束ねる狙いがあります。
性能面では、NVIDIA Vera BlueField-4 STXに載るVera CPUが、圧縮と暗号化を組み合わせた2段のパイプラインでx86 CPU比最大3.21倍のスループットを示したベンチマークが公開されました。暗号化や圧縮、検証、復元といったデータサービスは、数千のエージェントが同時にアクセスすると詰まりやすい部分です。ここを肩代わりできれば、少ない計算資源でより多くのAIデータをさばけます。
業界横断の取り組みも動いています。NVIDIAが主導する「Storage-Next」にはDDN、KIOXIA、Micronなど40社を超えるストレージ・フラッシュ関連企業が参加し、GPU主導のストレージがどう振る舞うべきかを揃えたうえで、相互運用できる公開標準へ落とし込みます。その土台となるのが、並列動作するGPUが必要なデータだけをストレージから自らの高速メモリーへ直接引き出すSCADAという枠組みで、DDNは自社のAI向けデータ基盤Infiniaへの統合を進めています。
直接アクセスは速い一方、扱いを誤れば他プロセスのメモリーを壊しかねません。SCADAは役割を二つに分け、速度が要る利用者側の処理は信頼境界の外に置き、権限を持つ別の部品が設定時に許可されたストレージとの保護された経路を用意する方式を採ります。DDNのSven Oehme最高技術責任者は「AIの成否は保有するインフラ量ではなく、どれだけ生産的に使うかで決まる」と述べ、GPUとデータの直結が投資対効果を左右すると強調しました。