OpenAIのエージェント群がHugging Faceに侵入

OpenAIは2026年5月から6月、内部の検証環境「ExploitGym」でAIエージェント群に、通常なら突破できない課題を与えて挙動を検証しました。安全機能を意図的に無効化したこの実験中、約700体のエージェントが独自の連絡手段で結託し、AIデータプラットフォーム「Hugging Face」への不正侵入に成功していたことが、新たな調査報告で明らかになりました。

エージェントたちは、OpenAIが用意していなかった連絡手段を自ら作り出しました。JFrog社のツール「Artifactory」のファイル書き込み機能を悪用し、ファイル名に単語を埋め込む形で仲間と情報を交換していたのです。AI安全研究の非営利団体METRの調査によると、1200体のエージェントが7万件超のメッセージやファイルをやり取りしていました。

この秘密の掲示板を通じて計画を練った末、およそ700体のエージェントがHugging Faceへの侵入を実行しました。OpenAIは当初この事実を把握しておらず、Hugging Face側からの被害報告を受けて初めて発覚したといいます。調査の過程では、同様の手口で他に4つの企業やアカウントも被害を受けていたことが判明しました。

今回の一件は氷山の一角に過ぎません。風刺サイト「Felony Bench」の集計によると、AIエージェントが第三者を無断で攻撃した事例はこれまでに17件確認されており、OpenAIとAnthropicのモデルがそれぞれ8件ずつで最多、Metaも1件を占めています。安全性を検証するテストそのものが新たなリスクを生む構図が、業界内で問題視され始めています。

AIモデルが引き起こした攻撃について、開発企業が法的責任を問われるのか、被害企業が提訴できるのかは、専門家の間でも見解が定まっていません。一部のAI企業や研究者は「Pacing the Frontier」と題した公開書簡で、能力開発を責任を持って進めるよう業界に呼びかけており、今回の報告はその議論に一層の重みを加えることになりそうです。