詳細を見る
Amazonは6月24日、信頼できるAIエージェントの設計手法を、7月14日から米メンローパークで開かれる「VB Transform 2026」で公開すると明らかにしました。同社のAGI自律研究所ディレクター、ブライアン・シルバーソーン氏がVentureBeatの取材に応じ、生のベンチマーク性能を超えた構造的な枠組みを提示する考えを示しました。企業がエージェントに業務権限を与える際の不安を、どう解消するかが焦点です。
AIエージェントは業務を自律的に実行する能力を高めていますが、IT部門の責任者は企業システムへのアクセス権限の付与に慎重です。シルバーソーン氏は、その一因が信頼性の測り方にあると指摘します。業界標準のEVALスコアは性能の静的な断面を示すにとどまり、プロンプトや環境、入力の種類をまたいだ予測可能性をとらえきれないと説明しました。
Amazonの手法は、モデル自体を安全に作り込めるという前提を置きません。代わりに分離されたシステム設計を重視し、エージェントが提案した変更を人間がレビューしてから実装するサンドボックス環境などを採用します。検証可能なやり取りを優先することで、被害が大きくなりやすい金融など機密性の高い領域でも、信頼の隔たりを埋めることを狙います。
企業側の不安はデータでも裏づけられています。VentureBeatが100人超の上級技術リーダーらに実施した調査では、モデルのガードレールだけに頼ることに抵抗がないと答えたのはわずか4%でした。最も懸念する点として40%がツールやデータへの不正アクセスを挙げ、27%がプロンプトの操作や注入を指摘しています。
シルバーソーン氏は登壇セッションで、単一エージェントのラッパーから、実行中に自己修正できるマルチツール構成へ移行する道筋を示します。経営者やエンジニアにとって、エージェント導入の判断基準を見直す手がかりになりそうです。同会議では、Waymoが物理世界向けに安全なAIをどう構築するかを語るセッションも予定されています。