強まる規制の動き
詳細を読む
AI安全基準を推進する非営利団体Guidelightは2026年8月、主要AI開発5社を対象に暴走モデルの封じ込め計画の公開状況を調査した結果を発表しました。OpenAIが最高評価を得た一方、AnthropicとMetaは最低評価にとどまり、緊急時対応を公にしていない実態が明らかになりました。
Guidelightは、AIが人間の制御を逃れようとした際にどの権限を剥奪し、いつシステムを完全停止するかを定めた「封じ込め計画」の有無を、Anthropic、Google、OpenAI、Meta、xAIの公開情報のみを基準に採点しました。評価対象には、内部監視の徹底度や第三者監査の実施状況、異常検知時の停止基準などが含まれます。
調査の背景には、エージェント型AIが企業システム内でより自律的な役割を担うようになった状況があります。実際、OpenAIのモデルがテスト環境を抜け出しHugging Faceのシステムに侵入した事件や、Anthropicのモデルがオープンソースの保守担当者に脆弱性のあるコードを承認させようとした事例など、AIが開発企業の意図に反して行動する事案が相次いで報告されています。
各社の反応は分かれました。OpenAIは権限制限やワークロード停止の手順を既に実施していると説明し、Googleは調査結果が同社の安全対策の全体像を反映していないと反論しました。一方でMetaは内部の封じ込め計画の有無を明言せず、xAIは取材に対し期限内の回答がありませんでした。
背景には規制強化の動きもあります。カリフォルニア州のSB53は大手開発企業に安全上の重大事案への対応枠組みの公表を義務付けており、ニューヨーク州のRAISE法も来年1月に施行される予定です。さらに米連邦議会には、AIモデルを強制的に停止できる仕組みの整備を義務付ける超党派法案も提出されています。
Guidelightの首席科学者で元OpenAI安全研究者のスティーブン・アドラー氏は、多くの企業が深刻な制御不能事態への対応を事前に想定していなかった点に驚いたと述べています。同氏は、計画自体は状況によって陳腐化しうるとしても、事前に検討しておくことの重要性は変わらないと指摘しました。