詳細を読む
米Perplexityは25日、NvidiaのDGX SparkやRTX搭載Linux機上で完全にローカル動作する新製品「Portable Computer」を発表しました。データやAIモデルを端末内にとどめたまま処理を完結できるため、クラウド利用時に発生するトークン課金がかかりません。エージェント型AIの利用拡大に伴うコスト増や情報漏えいへの懸念に応える狙いがあります。
同製品は、Perplexityの企業向けAIエージェント基盤「Computer」をローカル環境向けに再構築したものです。モデルや推論エンジン、ツール群、セキュリティサンドボックスを一つのアプリにまとめており、従来は個別に構築する必要があったローカルAIスタックを簡単に導入できるようにしました。対応GPUは24GB以上のVRAMを搭載したRTXで、まずLinux版として提供し、Windows対応は9月を予定しています。
社内ベンチマークでは、27億パラメータのQwenモデルを使ったPortable Computerが82.6%のスコアを記録し、オープンソース製のハーネスを上回りました。Perplexity独自に追加学習したモデルでは85.4%まで向上しています。処理内容に応じて一部をクラウドの大規模モデルに引き継ぐ機能もあり、性能とコストの両立を図っています。
背景には、AIエージェントが長時間・大量のトークンを消費するようになり、クラウド利用料や機密データの流出リスクが企業にとって課題になっている事情があります。NvidiaにとってもDGX Sparkの用途を広げる狙いがあり、両社は昨年来のパートナーシップをさらに深めた形です。
一方で、現時点ではLinux版のみの提供にとどまり、対応GPUも24GB以上のVRAMを搭載したRTXに限られます。Apple製シリコンへの対応は予定されておらず、利用できる環境はまだ限定的です。Perplexityは公開したベンチマークが自社評価に基づくものであると認めており、今後の第三者検証が注目されます。