RAG判断、LLM呼び出し限定で推論コスト6分の1

全LLM運用の代償

監査時に説明できない意思決定
処理件数に比例するコスト増加
簡単な案件でも判断が不安定

3段階カスケード設計

第1段階はルールで即決
第2段階で必要な証拠のみ検索
第3段階はLLMが残る難問のみ担当

非対称リスクへの対応

見逃しと誤検知は非対称
低信頼度は人間レビューへ回付

規制業界向けのRAG(検索拡張生成)分類システムを1年以上手掛けてきたエンジニアのヴィニート・ヴィジャイ氏は、あらゆる判断をLLMに丸投げする設計から脱却し、ルールと検索を経て曖昧な案件だけをLLMに回す3段階のカスケード型アーキテクチャを提案しました。ある実システムでは推論コストを従来比6分の1まで削減しながら、多数派の案件で判断のぶれをほぼなくしたといいます。

全ての判断をLLMに委ねる設計は、デモ段階では快適に動作します。しかし規制当局や監査担当者に「なぜその判断に至ったか」を説明する場面になると、たちまち破綻します。加えて、処理件数が数万件規模になると推論コストと遅延がそのまま比例して膨らみ、単純な案件でもモデルの判断が一貫しないという副作用も見過ごせません。

そこでヴィジャイ氏が提案するのが、LLMを最前線ではなく最後の砦として使うカスケード設計です。第1段階では完全一致や構造化された項目比較など、ルールで判定できる案件を即座に処理し、全体の半数以上をここで解決します。第2段階では、第1段階で解決しなかった曖昧な案件について、過去の類似判断や関連文書といった具体的な根拠を検索し、第3段階のLLMには全体の1〜2割程度しか届かないように絞り込みます。

実際にヴィジャイ氏が携わったあるシステムでは、この絞り込みによってLLMへの呼び出しを全体の10〜15%程度に抑え、全件LLM方式と比べて推論コストを約6分の1まで削減できたといいます。同時に、ルールで処理できる大多数の案件については判断の一貫性がほぼ完璧な水準まで向上したとしています。

LLM段階に到達した案件についても、ヴィジャイ氏は中立的な指示ではなく非対称リスクを明示したプロンプト設計を勧めています。見逃しによる実害と誤検知によるレビュー負担は同じ重さではないため、不確実な場合はエスカレーションを優先させ、分類結果とあわせて信頼度スコアを出力させます。信頼度が一定の閾値を下回った案件は、モデルの判定結果にかかわらず人間のレビューへ回す仕組みです。

評価面でも従来のRAG評価指標をそのまま使うと危険だとし、検索精度と最終的な分類精度を別々に測定すること、評価データにLLM段階まで到達する案件を意図的に多めに含めることを推奨しています。ヴィジャイ氏は、成熟したRAGシステムとはモデルの判断をどう改善するかではなく、そもそも何をモデルに触れさせないかを決める設計だと結論づけています。

DeepSeekのV4 Flash、実務タスク53.8%止まりで価格急騰

実務テストで伸び悩み

Composioが240回検証
成功率は53.8%のみ
全ハーネス合格は6件のみ

価格を大幅引き上げ

Flashは最大371%増
Proも最大355%増

企業導入は手探り段階

バッチ処理など限定活用
信頼性・権限管理が課題

DeepSeekの新モデル「V4 Flash」は、ベンチマークで首位を独占する一方、Composioが実施した実務レベルのエージェントタスク検証では成功率53.8%にとどまりました。GmailGitHubSlackなど実ツールを使う30種のタスクを8種のハーネスで試した結果です。DeepSeekは同モデルのAPI価格も最大371%引き上げると発表し、低価格戦略の転換点を迎えています。

ComposioはClaude CodeCodex、OpenCodeなど8種のエージェントハーネスを用い、GmailGitHubSlackGoogle Sheetsを操作する30の困難なタスクでV4 Flashを検証しました。240回の実行のうち成功したのは129回で、全ハーネスが揃って合格したタスクはわずか6件にとどまりました。同じモデルでも、ツール構成やキャッシュの扱い、リトライ方法によって結果が大きく変わることが浮き彫りになっています。

DeepSeekは7月31日にV4 Flashをパブリックベータで公開し、8月13日には上位モデルのV4 Proを一般提供しました。両モデルとも人気を集めましたが、DeepSeekはAPI価格をトークン種別や利用時間帯に応じて最大1,100%引き上げると発表しました。Flashはオフピークで57%、ピーク時は最大371%の値上げとなり、Proも51%から355%の上昇となります。

アナリストのSanchit vir Gogia氏は、今回の改定を「単純な値上げではなく、推論のタイミングを経済変数化する価格アーキテクチャだ」と分析しています。一方で技術アナリストのCarmi Levy氏は、値上げ後もOpenAIAnthropicなど競合と比べればなお安価であり、価格優位性が失われたわけではないと指摘しました。

企業での活用は、バッチ処理や定型的な生成作業など、非機密で成功指標が明確な業務に限定される見通しです。EmpirioLabs AIAdam Dalloul氏は、翻訳のような単純作業には大型モデルは不要だとし、タスクに応じて安価なサブエージェントと高性能モデルを使い分ける手法を勧めています。信頼性や権限管理、失敗時の対応を整えることが、実運用への鍵になりそうです。

Stripe、AI仲介のOpenRouterを70億ドル超で買収

買収の概要

Stripeが正式合意
買収70億ドル超
Bloombergが報道

OpenRouterの実績

AIモデル仲介サービス
月間利用者800万人
400以上のモデル対応

交渉の経緯

WSJが交渉報道済み
5月に評価額13億ドル

決済大手のStripeは、AIモデル仲介の新興企業OpenRouterを70億ドル超で買収する契約に最終合意したと、米ブルームバーグが2026年8月16日に報じました。異なるAIモデルを用途や予算に応じて選べるサービスを提供するOpenRouterを取り込み、Stripeは決済に加えAIインフラ領域での存在感を強める狙いとみられます。

OpenRouterは、利用者がタスクや予算に応じて複数のAIモデルを選択・切り替えられるサービスを提供しています。同社は2026年5月にシリーズBで1億1300万ドルを調達し、評価額は13億ドルに達したと発表していました。出資者にはセコイア・キャピタルやアンドリーセン・ホロウィッツ、メンロー・ベンチャーズ、アルファベット傘下のCapitalGなどが名を連ねています。

OpenRouterのアレックス・アタラCEOは調達時、自社を「AI版のStripe」と表現し、単一の窓口で多様なAIモデルにアクセスでき、特定モデルへの依存を避けられる点を強みに挙げていました。同社はこれまでに世界で800万人のユーザーを獲得し、400種類を超えるAIモデルへのアクセスを提供していると説明しています。

米ウォール・ストリート・ジャーナルは先月、StripeとOpenRouterが買収に向けて協議していると報じていました。今回のブルームバーグの報道により、その協議が70億ドルを超える買収額で合意に至ったことが明らかになった形です。

Stripeの広報担当者はTechCrunchの取材に対し、噂や憶測にはコメントしないと述べており、買収についての公式な確認は現時点で得られていません。ただし複数の有力メディアが足並みをそろえて報じていることから、取引の実現性は高いとみられます。

OpenAIのChatGPT新機能、クリックや入力を記録

新機能の概要

操作履歴を学習し記録
自動化を提案
未完了タスクを引き継ぎ

プライバシー設計

オプトイン方式で提供
アプリ除外や削除が可能

Recallとの違い

画面撮影はせず
「イベント」情報のみ記録

OpenAIは、ChatGPTmacOS向けデスクトップアプリに、ユーザーの操作を記録する新機能「Computer History」を追加したことが明らかになりました。クリックやキー入力などの操作を『イベント』として蓄積し、作業の流れをタイムライン化することで、ChatGPTCodexが状況を踏まえた提案や作業の引き継ぎができるようにする狙いです。

この機能はオプトイン方式で提供され、既定では無効になっています。ユーザーは特定のアプリやウェブサイトをComputer Historyの対象から除外でき、記録した履歴を個別に削除することも可能です。ChatGPTはこうした行動データをもとに、繰り返し作業の自動化を提案したり、途中で止まっているタスクを見つけて再開を促したりします。

OpenAIのデベロッパー・エクスペリエンス担当であるドミニク・クンデル氏は、公開したデモ動画の中で、直近に編集した文書を呼び出し、それがSlackで共有済みかどうかを確認したうえで、その日の朝の作業内容をまとめて振り返る様子を紹介しました。また、プロダクト・エンジニアリング担当のアリ・ワインスタイン氏はX上で、シークレットモードやプライベートタブでの操作はComputer Historyの記録対象から自動的に除外されると説明しています。

この仕組みは、米マイクロソフトが提供するWindows Recallと似た発想の機能です。ただしWindows Recallが定期的な画面撮影によって履歴を記録するのに対し、Computer Historyは画像動画音声を一切保存せず、操作内容を示す『イベント』情報のみを記録する点が異なります。もっとも、行動が逐一記録される仕組みそのものに違和感を覚える声も一部にあります。

AWSがCPU節約指令、エージェントAI需要急増

AWSがCPU逼迫を警戒

AWS社員にCPU節約を指示
クラウド基盤で待機時間が急増
GPU・メモリに続く新課題

背景はエージェントAI

ツール呼び出しの大半がCPU処理
サブエージェント増殖で負荷拡大
安全性チェックもCPU依存

半導体各社が対応急ぐ

Intelはサーバー品切れ継続
AMDがサーバーCPU予測倍増

AWSは2026年、社内エンジニアにCPUの浪費を抑えるよう指示を出しました。クラウド基盤でCPUサーバー容量の待ち時間が急増しているためで、背景には自律的に判断し複数のツールを呼び出すエージェントAIの急速な普及があります。AI需要はこれまでGPUやメモリに集中していましたが、CPUにも圧力がかかり始めています。

これまでCPUはAI推論との親和性が低いとされ、GPUやメモリほど注目されてきませんでした。しかし2026年に入り、Moor Insights & Strategyのアナリスト、マット・キンボール氏は「CPU需要が急増している」と指摘します。エージェントが数万から数百万規模に増殖し、企業全体で稼働する状況が現実味を帯びてきたためです。

インテルの研究者スービック・クンドゥ氏によると、エージェントAIの処理の多くはCPU上で実行されるといいます。出力の解析やツールの選択、API呼び出し、結果の収集といった作業がCPUの役割です。AMDのマドゥ・ランガラジャン氏も、実際のエージェントAIパイプラインでは8段階中7段階がCPU上で完結すると説明しています。

ジョージア工科大学のユジュン・チョン氏らの研究では、CPUコア数が不足するとGPUへの命令送出が遅れ、GPU側が待機状態に陥ることが分かりました。さらにツール呼び出しの結果を都度トークン化する必要があり、対話が長くなるほど処理負荷が増す点も課題です。実験ではCPUコア数を増やすことで、初回応答までの時間を最大7倍改善できたといいます。

こうした需要増を裏付けるように、インテルは年内を通じてサーバー用CPUが品切れ状態にあると報じられています。AMDはサーバーCPUの需要予測を倍増させ、アームとクアルコムエージェントAI向けの新型CPUを発表しました。エヌビディアエージェント向けCPU「Vera」を投入しています。

キンボール氏は、CPU価格の上昇や供給不足がコンシューマー向け製品にも波及し始めていると警告します。インテルはクライアント向けCPUの生産をサーバー向けに振り向けており、CPU市場全体で需要と供給のバランスが崩れつつある状況です。

アンソロピックCEO、AI不信は「信頼の危機」と反論

投資家の批判

ベイカー氏「議論に敗北」と指摘
AI警鐘が反発招いたと主張

アモデイ氏の反論

発信はリスクと恩恵を均等と説明
世論の不信は「信頼の危機」
業界は約束未達成が真の問題

規制めぐる持論

規制と集中は「誤った二択」
提案は新興企業有利に設計

著名投資家のゲイビン・ベイカー氏は、アンソロピックの最高経営責任者(CEO)を務めるダリオ・アモデイ氏によるAIリスクへの警鐘が、米国内のAI反発やデータセンター建設への反対運動を助長してきたと批判しました。ベイカー氏はAll-Inポッドキャストや自身のX投稿で、アモデイ氏は規制論争で「議論に敗北した」と主張し、業界のより前向きな代弁者になるよう求めました。

これに対しアモデイ氏はX上の連続投稿で反論しました。自身の発信はリスクと恩恵を均等に取り上げてきたと説明し、エッセイ「Machines of Loving Grace」もAI業界が明るい未来像を十分に描けていないと感じて書いたものだと述べました。

アモデイ氏は世論がAIに否定的であることは認めつつ、その原因を自分や他のAI経営者による警鐘に求めるのは誤りだと主張しました。「これは根本的に信頼の危機だ」とし、人々は企業や政府、テック業界が何か裏で企んでいると常に疑っていると説明しました。

さらにアモデイ氏は、AI企業に向けられるべき最も正当な批判は、掲げてきた大きな約束をまだ果たしていないことだと述べました。がんを治すと約束するのは「陳腐な決まり文句」であり、実際にがんを治すことこそが世論を変えると指摘しました。

規制論争についてアモデイ氏は、規制なきAIの幅広い普及か、規制による少数企業への集中かという二択はベイカー氏が描いた「誤った構図」だと反論しました。アンソロピックは先端AI企業の力を抑制しつつ小規模な競合企業を有利にする政策提案を慎重に設計してきたと説明し、オープンウェイトだけでは権力集中への十分な解決策にならないとの見方を示しました。

ザッカーバーグ氏の個人AI構想に広がる懐疑論

壮大な個人AI構想

6500語の長文論考を公開
「誰もが個人AI」提唱
新モデルGlimmer搭載

過去の約束との落差

SNS時代も同様の理想語る
実際は広告と対立拡大

識者は懐疑的な視点

Amodei氏との対比を指摘
専用端末必須で普及に壁
Altman氏の提案にも反発

米メタのマーク・ザッカーバーグCEOは今週、6500語に及ぶ長文の論考「The Future is for Everyone」を公開し、誰もが自分を理解し目標に寄り添う高性能な個人AIエージェントを持てる未来像を描きました。米メディア・テッククランチのポッドキャストでは、記者たちがこの構想になぜ賛同できないのかを議論し、話題を呼んでいます。

番組で記者のレベッカ・ベラン氏は、ザッカーバーグ氏が最先端モデル競争でもオープンモデル競争でも優位に立てていない中、「個人のエンパワーメント」という新たな土俵で勝負を仕掛けようとしていると分析しました。実際に同社は新モデルGlimmerスケジュール管理やメッセージ作成などの個人向け用途に投入し、より高性能なMuse Sparkで企業向け収益も確保する構えです。

もっとも記者らは、ザッカーバーグ氏とMetaの過去の実績に強い不信感を示しています。かつて同社はSNSについても「友人とのつながりを支える」と理想を語りましたが、実際に広がったのは怒りを煽る投稿と広告だったと指摘しました。この既視感が、今回の個人AI構想への警戒につながっているといいます。

ベラン氏は、開発減速を口にするアンソロピックダリオ・アモデイCEOとは対照的に、ザッカーバーグ氏は「中国に一歩も譲れない」として開発加速を強調していると対比しました。さらに新モデルは対応端末が限られ、一般のパソコンでは試すこともできないなど、「誰にでも開放される」という触れ込みとは裏腹に、普及のハードルは依然高いと述べています。

記者陣は、サム・アルトマン氏が子育てへのAI活用を提案した際にも似た反発が起きた例を挙げ、著名経営者が描くAIの未来像そのものへの不信が根底にあると分析しました。抽象的な「創造性の解放」という言葉は懐疑派を説得できず、具体的な個人アシスタント像についても賛否が分かれていると結んでいます。