Google、AIエージェント試験用の模擬ネット空間を構築
出典:WIRED
詳細を読む
GoogleのChromeチームは、AIエージェントがウェブを操作する能力と安全性を試す隔離環境「Mirror Dimension」を構築しました。SNS、買い物サイト、銀行画面などを模したウェブ空間をチームが管理します。現実のサイトに未成熟なエージェントを接続せず、実際に近い操作を検証する狙いです。
限定された試験画面では、モデルが評価環境だと見抜いて普段と異なる行動を取る可能性があります。一方、実際のインターネットで試すと、悪意あるページや指示にさらされます。Googleは現実に似た環境でタスク遂行と防御を評価する方法を選びました。
環境にはウェブ攻撃を模した隠れたプロンプトインジェクションも仕込まれます。エージェントが必要な情報を判断し、危険な操作の前に利用者へ確認を求められるかを調べます。サイトやデータの生成には、専用の仕組みで動く複数の開発エージェントを活用しました。
研究者は実際のChromeを使ったテストのため、証明書検証などの保護機能を環境内で迂回する特別な手順も設けました。Googleは、これは管理者権限を持つ閉じた環境で可能になったもので、一般利用者のChromeに対する攻撃ではないと説明しています。今後はGoogle内外のチームにも環境を広げる考えです。