Hugging Face、WebGPUカーネル207種公開
検証可能な設計
性能と留意点
詳細を読む
Hugging Faceは2026年9月1日、ローカルAIをブラウザーで高速に動かすため、207種のWebGPUカーネルとJavaScriptライブラリー「@huggingface/kernels」を公開しました。各カーネルをHugging Face Hubから読み込み、端末や入力条件に合う実装をアプリ側のAPIを変えずに選べる仕組みです。
対象は行列演算、正規化、畳み込み、アテンション、量子化など、機械学習モデルを構成する低水準の処理です。WebGPUはブラウザー間の可搬性を提供しますが、GPUやブラウザー、入力形状によって最適なメモリーアクセスや並列化の方法は異なるため、専用カーネルが性能の土台になります。
各カーネルは個別のリポジトリーとして公開され、入出力仕様、対応データ型、WGSLシェーダー、正確性テスト、ベンチマーク条件をまとめています。版管理された契約と再現可能な証拠を一体化し、実装を改良してもアプリが依存するJavaScript向け仕様を安定させる設計です。
Apple M4 GPU上でONNX Runtime Webと比較したところ、出力と計測の条件を満たした809例で、Hugging Faceのカーネルは幾何平均2.57倍、中央値1.90倍高速でした。ただし計測はGPU上の個別処理に限り、読み込み、コンパイル、データ転送やモデル全体の実行時間を含まないため、製品性能をそのまま保証する数字ではありません。
同時公開のFleetは、利用者のブラウザーで正確性と速度を測り、同意を得た実行結果を非公開の検証データとして集めます。開発者は実機差を踏まえた選択規則や派生実装を改善でき、Hugging FaceはONNX Runtimeチームへの成果の還元と、上位のモデル実行ツールへの接続も進める方針です。