実用性と人間の役割
詳細を読む
米Amazonは2025年11月、複数のAIエージェントを用いてセキュリティ脆弱性を自律的に特定・修正するシステム「Autonomous Threat Analysis（ATA）」の詳細を初公開しました。生成AIによるソフトウェア開発の加速とサイバー攻撃の高度化を受け、従来の人間中心のアプローチでは対応しきれない課題を解決するため、専門特化したAI群がチームとして連携する仕組みを構築しました。
ATAの最大の特徴は、単一のAIではなく「複数の専門AIエージェント」が攻撃側と防御側に分かれて競い合う点です。2024年8月の社内ハッカソンから生まれたこのシステムでは、攻撃エージェントが実際の攻撃手法を模倣してシステムへの侵入を試みる一方、防御エージェントがそれを検知して対策案を作成します。これにより、人間だけでは不可能なスピードと規模で脅威分析を行います。
AI活用における最大の懸念である「ハルシネーション（幻覚）」への対策も徹底されています。ATAは本番環境を忠実に再現したテスト環境で実際のコマンドを実行し、タイムスタンプ付きのログを生成することで検証を行います。Amazonの最高情報セキュリティ責任者（CISO）であるスティーブ・シュミット氏は、この検証可能な証拠に基づく仕組みにより「ハルシネーションは構造的に不可能である」と述べています。
具体的な成果として、ハッカーが遠隔操作を行う「リバースシェル」攻撃への対策が挙げられます。ATAは数時間以内に新たな攻撃パターンを発見し、それに対する検知ルールを提案しました。この提案は既存の防御システムにおいて100%の有効性が確認されており、AIによる自律的な分析が実用段階にあることを証明しています。
ATAは完全に自動で動作しますが、最終的なシステム変更には「Human-in-the-loop（人間が関与する）」アプローチを採用しています。AIが膨大な単純作業（grunt work）や誤検知の分析を担うことで、セキュリティエンジニアはより複雑で創造的な課題に集中できるようになります。今後は、リアルタイムのインシデント対応への活用も計画されています。