Clarifai、AI推論エンジンで処理速度2倍・コスト4割減

AIプラットフォームのClarifaiは25日、AIモデルの実行速度を2倍にし、コストを40%削減する新しい推論エンジンを発表しました。既存ハードウェアの性能を最大限引き出す多様な最適化技術を搭載し、複雑なAIの計算負荷増大に対応します。

新エンジンの性能は第三者機関によるベンチマークテストで検証済みです。スループット（処理能力）とレイテンシー（遅延）の両方で業界最高水準を記録。これにより、同じハードウェアでより多くの処理を高速に実行できることが客観的に示されました。

高速化は、学習済みAIモデルを運用する「推論」処理に特化した最適化で実現されます。同社CEOによると、CUDAカーネルレベルの最適化から高度な投機的デコーディング技術まで、様々なソフトウェア技術を組み合わせているとのことです。

開発の背景には、単一の指示で複数ステップの思考を要するエージェント型AIの台頭があります。こうしたモデルは計算負荷が極めて高く、推論コストの増大が課題でした。新エンジンは特にこうした多段階処理を行うモデル向けに調整されています。

AIブームによるGPU需要の急増を受け、同社はAIの計算オーケストレーション（最適管理）に注力しています。CEOは「巨大データセンター需要に対し、アルゴリズム革新はまだ終わっていない」と述べ、ハードウェア増強だけでなくソフトウェアによる最適化の重要性を強調しました。