詳細を読む
OpenAIは13日、最新モデル「GPT-5.6 Sol」の応答速度を大幅に高めた新モード「Ultrafast」を発表しました。半導体企業Cerebrasとの提携により、標準処理と比べて最大14倍の速度を実現し、毎秒750トークンを出力できるとしています。まずはOpenAIのAPI経由で、限られた顧客向けにプレビュー提供が始まりました。
これまでリアルタイムに近い応答速度を得るには、性能を抑えた小型モデルや特化型モデルを選ぶ必要がありました。OpenAIは、Ultrafastによって知能を犠牲にせず速度を得られる新しい方向性を示せたとしています。同社は「1秒あたりでより多くの有用な処理をこなせるようになった」と説明しています。
想定される活用分野として、システム障害発生時のログ分析や原因究明、金融市場における不審な取引の検知、顧客対応チャットでの複雑な問い合わせ解決、eコマースでの在庫確認や商品提案などが挙げられています。いずれも状況が刻々と変化する中で、素早い判断が求められる業務です。
OpenAI社内でも、障害対応チームがUltrafastを活用し始めています。アラート発生時にログやトレース、関係者のやり取りを高速に読み解き、次に確認すべき点や修正案の準備までを短時間でこなせるようになったといいます。最終的な判断と実行の責任はエンジニアが担う体制です。
研究チームでは、従来は一晩かけて実行していた実験サイクルを、日中に複数回繰り返せるようになった事例も紹介されています。Cerebrasとの協業は今後も続く見通しで、OpenAIは低遅延推論の強化を進める方針です。
Ultrafastは現在、限定的なプレビューとして一部の顧客に提供されています。OpenAIは「処理能力の拡大に合わせて対象を広げていく」としており、今後はより多くの企業がこの高速モードを利用できるようになる見通しです。