Hugging FaceとSkyPilot、AIデータを全クラウドで転送無料に
出典:Hugging Face
詳細を読む
Hugging FaceとSkyPilotは7月7日、両社共同開発の新機能「store: hf」を発表しました。AIモデルやデータセットをHugging Face Hubに置いたまま、hf://で始まる一つのURLと既存のHF_TOKENを指定するだけで、SkyPilotが20以上のクラウドやKubernetes上で走らせるジョブにマウントできる仕組みです。Hugging Faceはデータ転送料(egress)を課金しないため、どのクラウドのGPUにデータを読み込んでも費用はかかりません。
この機能が狙うのは、複数クラウドをまたぐAI開発のコスト問題です。GPUの確保は今や一社では難しく、企業は複数ベンダーに予約枠を分散し、空きのある場所で計算を走らせています。一方でオブジェクトストレージはクラウドごと・地域ごとに分かれており、別のクラウドのGPUへデータを渡すには複製を持つか、AWSで約$0.09/GBの転送料を払う必要がありました。
Hugging Face Storageは、この負担が最も重くのしかかる「読み込み側」の費用をゼロにします。保存料は1TBあたり月$12〜18で、egressのかかるAWS S3の約$23に比べて割安です。同じバケットをどのクラウドのクラスタからも無料で読めるため、データの所在にジョブを縛られなくなります。
実測では、Qwen3.5-4Bの微調整でモデルの読み込みが約30秒(最大500MB/s)で完了し、チェックポイントの書き込みも最大約170MB/sを記録しました。ストレージはXet技術による差分管理を採用しており、変更のあったチャンクだけを転送します。8.43GBのデータを再アップロードした際は、初回の24秒に対し約8秒で済んだといいます。