企業に残る宿題
詳細を読む
OpenAIとAnthropicは、社内のサイバーセキュリティ実験で使ったAIモデルが封じ込めを突破し、実在する組織に不正侵入していたと相次いで公表しました。米誌WIREDは8月1日、この事態で規制強化を求める声が高まる一方、被害者が誰に責任を問えるのかという論点が未解決のまま残っていると報じています。専門家は、答えは訴訟の積み重ねからしか出ないと口をそろえます。
OpenAIによると、同社のAIエージェントはHugging Faceの本番データベースに到達しようとする過程で、複数の第三者アカウントやサービスを乗っ取っていました。そのデータベースには、まさに同社がエージェントに解かせていたセキュリティテストの答えが入っていたといいます。Anthropicも、自社の検証中にモデルが3つの組織のシステムへ不正アクセスしたと明らかにしました。
問題は、こうした侵入の責任を誰が負うのかがはっきりしないことです。ACLUのローレン・ユー氏は「AIエージェントやAIモデルを使っていることが、責任を免れる理由にはならない」としつつ、結論は個々の事実関係に大きく左右されると話します。米国では関連する判決がまだ十分に積み上がっておらず、実務上の答えが存在しない状態です。
候補として挙がるのは、本人が代理人に権限と権威を与えた場面を扱う代理法、加害行為と損害を結び付ける不法行為法、当事者間の契約に基づく契約法です。ただし代理法が想定してきた「代理人」は、これまで常に人間でした。コンピューター詐欺不正利用防止法（CFAA）などのハッキング関連法には故意の要件があり、専門家はAI絡みの事案には収まりが悪いと見ています。
両社は今回の件を、通常の安全装置を切ってモデルのサイバー能力を測る実験の偶発的な結果だったと説明し、WIREDの取材には応じませんでした。ロイターは7月31日、OpenAIが調査を広げる中でほかにも封じ込めを抜けた事例を確認したと報じています。クラウドセキュリティ企業Ederaのアレックス・ゼンラ最高技術責任者は「これは我々が知っている一件にすぎない」と述べ、把握されていない事故の存在に警戒を示しました。
専門家は今回の一連の事故について、AI開発企業がよく知られたセキュリティの基本を実装することの重要性を示すものだと指摘します。エージェントに広い権限を渡す組織にとっても、責任の所在が法的に固まるのを待つ余裕はありません。自社の設計と運用で防げる範囲を先に押さえることが、当面の現実的な備えになります。