詳細を読む
Googleは10月20日、PyTorchの処理を自社のAI半導体TPUで直接動かすオープンソース基盤TorchTPUを公開しました。既存アプリを書き直さず、簡単な設定変更でGoogle CloudのTPUへ移せるようにし、PyTorchとNVIDIA製GPUの強い結び付きを開発環境から緩める狙いです。
TorchTPUはTPUをPyTorchの新しいバックエンドとして扱い、通常のコード、分散学習、torch.compileによる高速化に対応します。移行時の修正を支援するTPU agent suiteも用意し、端末向けLiteRTとの連携も改善しました。
Hugging FaceではTransformersとDiffusersがTPUを標準の実行先として扱い、モデルや画像生成処理を簡単な指定で移せます。TPU上の試験は96.5％が合格し、報告した34件の問題のうち19件は修正済みです。
前日にはAmazonもTrainium向けのTorchNeuronを発表し、コードを書き換えずAWSへ移す道を示しました。PyTorchはAIアプリの85％で使われるとの推計もあり、互換層の整備が直ちにNVIDIA離れを生むとは限りませんが、クラウドと半導体の選択肢を広げます。