詳細を読む
2026年4月、AIの利用量を社内で競い合う「トークンマキシング」と呼ばれるトレンドが米シリコンバレーで急速に広がっています。Metaが社内のAIトークン使用量ランキングをプレスに流出されたことを受けてダッシュボードを閉鎖する一方、LinkedIn共同創業者のReid Hoffman氏はSemaforのイベントで、従業員のトークン使用量を追跡することに賛意を示しました。トークンとはAIモデルがプロンプトを処理する際のデータ単位であり、AI利用コストの指標にもなっています。
Hoffman氏は、トークン使用量がそのまま生産性を示すわけではないと認めつつも、組織全体でAIの活用度を把握するための有効なダッシュボードだと述べました。重要なのは使用量だけでなく、何にトークンを使っているかを理解することであり、実験の失敗も含めて幅広い社員が同時にAIに取り組む文化が必要だと強調しています。週次のチェックインで学びを共有する仕組みも推奨しました。
こうしたトークン消費の拡大を支えるインフラ側でも動きが活発です。推論特化型のクラウドサービスを提供するParasailは、3200万ドルのシリーズA資金調達を発表しました。同社はGroq出身のMike Henry氏が率い、15カ国40カ所のデータセンターを活用して1日あたり5000億トークンの推論処理を行っています。ワークロードの賢い配分とピーク回避により、推論コストの引き下げを実現しています。
Parasailの成長を後押ししているのは、オープンソースモデルとAIエージェントの普及です。科学文献の分析ツールを開発するElicitのCEOは、大量のAPIリクエストを処理する際の課題からオープンモデルへの移行を進めていると語りました。初期スクリーニングにオープンモデルを使い、最終判断にフロンティアモデルを用いるハイブリッド構成が広がりつつあります。投資家のSamir Kumar氏は、将来的にソフトウェア構築コストの少なくとも20%を推論が占めると予測しています。