Hugging Face、Public AIを推論プロバイダーに追加
詳細を読む
AIプラットフォームのHugging Faceは、非営利オープンソースプロジェクト「Public AI」を新たにサポート対象の推論プロバイダーとして追加したと発表しました。これによりユーザーは、Hugging Face HubのモデルページやクライアントSDKから直接、Public AIが提供する推論機能を利用できます。スイスAIイニシアチブのような公的機関が開発したAIモデルへのアクセスを容易にし、選択肢を広げることが狙いです。
Public AIは、公的機関によるAIモデル開発を支援する非営利・オープンソースプロジェクトです。今回の提携で、同プロジェクトが提供する推論ユーティリティがHugging Faceのエコシステムに統合され、サーバーレス推論の選択肢が大きく広がりました。ユーザーはより多様なモデルを試せるようになります。
Public AIの推論基盤は、vLLMを採用したバックエンドと、複数のパートナーにまたがる分散型インフラで構成されています。これにより高い耐障害性を実現。グローバルな負荷分散層が、どの国の計算資源を利用しているかに関わらず、リクエストを効率的かつ透過的に処理します。
では、具体的にどのように利用できるのでしょうか。ユーザーはHugging Faceのモデルページに表示されるウィジェットから直接選択したり、アカウント設定で優先プロバイダーとして設定したりできます。また、PythonやJavaScriptのクライアントSDKにも統合されており、数行のコードで利用を開始できます。
現時点では、Hugging Face経由でのPublic AIの利用は無料です。ただし、将来的には価格や提供条件が変更される可能性があります。他のプロバイダーと同様に、Hugging Face経由で利用する場合の料金は、追加手数料なしでプロバイダーのコストがそのまま請求される仕組みです。
今回の提携は、開発者にとって公的機関や国家主導で開発された信頼性の高いAIモデルへのアクセスを容易にします。特に、主権AI(Sovereign AI)への関心が高まる中、多様なモデルを低コストで試せる環境が整ったことは、新たなアプリケーション開発の追い風となるでしょう。