詳細を読む
ビジネス特化SNSのLinkedInが、先月始まった今会計年度にAIデータセンターの増設を見送ります。エンジニアリング担当CTOのエラン・バーガー氏らがWIREDに明かしたもので、GPUへの投資を現状のまま維持し、計算資源と保管容量の規模も横ばいに据え置く方針です。生成AI機能を次々と投入しながら設備は増やさないという、利用者13億人超の大手として異例の判断になります。
据え置きを可能にしたのは、過去半年で既存GPUの利用効率を2倍に高めた取り組みです。インフラ担当CTOのラグー・ヒレマガルール氏によると、チームごとの計算資源と保管容量の使用量を測る仕組みを整えたうえで、機器が遊ぶ時間が減るようにジョブの割り当てを最適化しました。学習側のGPU稼働率は95%を超える水準にあるといいます。
モデル側の工夫も重ねました。求人推薦では大規模モデル2つから蒸留した小型モデルを使い、条件に合う求人の抽出と応募者がクリックする確率の予測を1つのモデルで担わせています。フィード表示のモデルでも、学習の効率化や過去の推薦結果の再利用、CPUとGPUの負荷分散など数十の改良を積み上げ、品質を落とさずに運用コストを下げたとしています。
Nvidia向けの基盤ソフトを書き換えて設計上の想定より大きな処理をこなせるようにしたほか、価格と消費電力で不利なGPUの処理の一部をCPUへ移しました。こうした効率化による節減額は直近12カ月で約2400万ドル、GPU約1100基を1年間動かし続けた分に相当します。年商180億ドルの同社にとって金額そのものは大きくないものの、資源に余裕が生まれる分だけ次の開発に早く着手できる利点があると経営陣は説明します。
背景には、2022年からオレゴン州、テキサス州、バージニア州で自前のデータセンターを運用してきた経緯があります。Microsoftによる2016年の買収後にAzureへの移行を試みたものの採算が合わず、自社保有に切り替えたことで設備の細部まで制御できるようになりました。保管するデータ量が毎年倍増する状況を持続可能ではないと判断し、学習から推論まで各段階で最適化を進めたのです。
サーバー価格が数カ月で3倍になった例もあるなか、同社は先行購入で調達コストを一部抑えています。ガートナーのチラグ・デケート氏は、買い増せば節約できるという従来の発想は成り立たず買い増しはコストを増やすだけだと述べ、企業の姿勢が変わりつつあると指摘します。一方で制約を強めすぎればAIの目標か支出凍結かのどちらかを譲る場面が来るとも警告しており、LinkedIn側も将来の増設は否定せず四半期ごとに判断を見直す構えです。