AI基盤投資が採算把握を上回る、企業の8割でGPU遊休

投資が実態に先行

本番運用は21%のみ
GPU稼働率5割以下が83%
コスト把握は44%止まり

広がる乗り換え意向

1年内に乗り換え64%
AI専用クラウド評価45%
選定基準は統合とTCO重視

次の制約はメモリ帯域

焦点はメモリ帯域への移行
制約未認識が18%
詳細を読む

VentureBeatが2026年6月に従業員100人超の企業107社を対象に実施した調査で、AIインフラへの投資採算把握の能力を大きく上回る「コンピュートギャップ」が浮き彫りになりました。本番環境でAIを大規模運用する企業はわずか21%にとどまる一方、支出意欲は成熟度を追い越し、多くがまだ使っていない専用インフラへ次の投資を振り向けようとしています。投資の速さが、その経済性を見通す力を上回っている状況です。

すでに導入済みの計算資源は遊休が目立ちます。GPUを運用する企業の83%が稼働率50%以下と回答し、約半数は25%以下でした。加えてAIコンピュートのコストと収益を厳密に把握できている企業は44%にとどまり、投資の実態が見えないまま支出が先行しています。

投資先の見直しも活発です。64%が1年以内にインフラ事業者の乗り換えや追加を計画し、38%は次の四半期内と回答しました。最も評価予定が多いのは現在ほとんど使われていないAI専用クラウドで45%に上り、汎用クラウドからの再プラットフォーム化の兆しが表れています。

選定基準では価格が最下位でした。重視されるのは既存スタックとの統合が41%、総保有コストが35%で、トークン単価を決め手とする企業は8%にすぎません。ただし総保有コストを重視すると答えながら、それを厳密に測れる企業は半数に満たず、掲げる基準と測定能力が食い違っています。

次の制約も見え始めています。推論規模が拡大するにつれ、ボトルネックはGPUの計算能力からメモリ帯域へ移ると指摘されますが、対応の主軸としてDellが31%、Nvidiaが16%と回答は分散しました。約18%はこの制約を認識していないか未着手で、現状のギャップを閉じる前に次の課題が訪れようとしています。