詳細を読む
フランスのAIスタートアップZMLは7月8日、オープンソースの大規模言語モデルをNvidiaやAMD、GoogleのTPU、Apple、Intelなど多様なチップ上で高速に動かせる推論サーバー「ZML/LLMD」を無償公開しました。特定メーカーへの依存（ベンダーロックイン）を打破し、企業やクラウドが安価で省電力なチップを自由に組み合わせられるようにする狙いです。チューリング賞受賞者のヤン・ルカン氏も同社を支持しています。
AIが業務や生活に浸透するにつれ、プロンプトを処理する推論の最適化はモデル学習を上回る重要性を持ち始めました。しかし創業者のスティーブ・モリン氏によれば、その内部はソフトやアーキテクチャの壁で継ぎはぎ状態にあり、ベンダーロックインを招いています。LLMDはこの壁を取り払い、多様なチップで最大速度を引き出すことを目指します。
この構想は市場の破壊要因にもなり得ます。ZMLは企業やクラウドに対し、より安価で省電力なチップを混在させる選択肢を提供し、AI関連コストへの懸念に応えたい考えです。「人々が自分のシステムを設計し、本当の効率化を実現する力を取り戻すのが狙いだ」とモリン氏は語ります。
モリン氏はSnapchatが2017年に買収した位置情報アプリZenlyのエンジニアリング担当VPを務めた実績を持ちます。その信用を背景に、20VCやグザビエ・ニール氏のKima Venturesなどから総額2000万ドルを調達しました。パリを拠点とするわずか20人のチームが素早い開発を支えています。
推論分野は「推論ゴールドラッシュ」と呼ばれるほど投資が過熱しており、評価額130億ドルのBasetenやvLLM開発陣のInferact、SGLang商用化のRadixArkが競合します。一方でLLMDはオープンソースではなく、まず無償で提供して利用実態を学ぶ方針です。株主にはDocker創業者のソロモン・ハイクス氏やHugging Faceの創業者らも名を連ね、欧州のAIスタートアップが地元から世界を狙える証しとなっています。