Zo Computer、Vercel活用でAIリトライ率を20分の1に削減
出典:vercel.com
詳細を読む
Zo Computerは、個人向けAIクラウドプラットフォームを提供するニューヨーク拠点の8人のスタートアップです。同社はVercelのAI SDKとAI Gatewayを導入したことで、AIモデル呼び出しのリトライ率を7.5%から0.34%へと約20分の1に削減し、チャット成功率を98%から99.93%に引き上げました。
Zo Computerはユーザーに任意のAIモデルへのアクセスを提供しており、OpenAI、Anthropic、MiniMaxなど複数プロバイダーに対応する必要がありました。従来はプロバイダーごとにカスタムアダプターを開発し、リトライ処理やフォールバックロジックも自前で管理していたため、新モデルが毎週リリースされるたびに対応作業が発生し、少人数チームの大きな負担となっていました。
Vercel移行後はAI SDKが各プロバイダーの差異を吸収する統一インターフェースを提供し、AI Gatewayがリトライやルーティング、プロバイダーの稼働監視をインフラ層で処理します。MiniMax M2.7のリリース時には、設定文字列の追加だけで即座にユーザーへ提供できました。新モデル対応にかかる時間は1時間超から30秒に短縮されています。
レイテンシ面でも大幅な改善が見られました。最も利用されるMiniMax M2.5モデルでは、平均レイテンシが25.7%改善し、P99レイテンシは131秒から81秒へ38%短縮されました。同社はユーザーがiMessageのようにエージェントと常時やりとりする使い方を想定しており、応答遅延の改善はユーザー体験に直結します。2026年中に100万ユーザーの獲得を目指す同社にとって、インフラの信頼性確保が成長の基盤となっています。