Google Cloud、AI時代のデータ防御を提案

Google Cloudのトーマス・タリウス氏は10月29日、AIエージェントの普及で攻撃の発見から悪用までの時間が縮まり、従来の検知や修正だけでは追いつきにくくなると指摘しました。企業には、膨大な操作記録を機械の速度で分析し、攻撃の兆候を捉えるデータ基盤が必要だと提案しています。

エージェントの行動はログや追跡記録として残りますが、単純に集約するだけでは、何が起き、どのシステムに影響したかを把握できません。記事は、行動の一連の経路を再構成し、本番データベースへの影響など業務上の重要度と結び付けて、ほぼリアルタイムに評価する必要性を説きます。

そのための構想として、複数クラウドやデータベースにある情報を移動せず横断利用するデータ基盤や、Apache Icebergなどのオープン形式を挙げています。一方、データごとに異なる権限を保つため、行・列単位の制御をクエリ時に適用し、利用者本人に結び付いた短期間の認証情報でエージェントの権限を限定する考え方も示しました。

大量ログを大規模言語モデルですべて分析すれば費用が膨らみます。記事は、まずストリーミング処理で異常候補を絞り、過去データとの照合後にエージェントが調査する段階方式や、需要に応じて伸縮するサーバーレス基盤を提案しています。

社内で使うエージェントにも個別のIDとアクセス範囲を設け、読み書きや外部送信を管理する必要があります。プロンプトインジェクションや、許可された操作の組み合わせによる逸脱に備え、何を調べ、どう判断したかを記録して人が確認できる状態にすることが、記事の結論です。