詳細を読む
OpenAIは2026年7月15日、モデルの脆弱性を自動で探索する安全性向けレッドチームAI「GPT-Red」を発表しました。同社は最大級の学習規模に匹敵する計算資源を安全性のためだけに投じ、GPT-Redが生成した攻撃を最新モデルGPT-5.6 Solの訓練に組み込むことで、プロンプト注入への耐性を大幅に高めたとしています。人手に頼るレッドチームの限界を、AI自身による自己改善で突破する狙いです。
GPT-Redは自己対戦型の強化学習で訓練されます。攻撃側のGPT-Redはプロンプト注入の成功など有効な失敗を引き出すと報酬を得る一方、防御側の多様なLLMは攻撃を退けつつ本来のタスクを完遂すると報酬を得ます。防御が強くなるほど攻撃側はより多様で強力な手口を探さざるを得ず、両者が競い合いながら共に進化する仕組みです。
性能は人間のレッドチームを上回ります。訓練とは異なる間接的プロンプト注入の評価環境で、GPT-Redは84%のシナリオで攻撃を成功させ、人間の13%を大きく引き離しました。さらにオフィスの自動販売機を管理する実運用エージェント「Vendy」に対しても、価格の不正変更や他人の注文取り消しなど三つの悪意ある目的をすべて達成しています。
こうして見つけた弱点は防御力の向上に直結します。GPT-Redを訓練に組み込んだGPT-5.6 Solは、4カ月前の最良モデルと比べ最難関の直接プロンプト注入で失敗を6分の1に減らし、GPT-Redの直接注入では失敗率をわずか0.05%まで抑え込みました。過度な拒否や能力低下による「見かけの安全」ではなく、通常性能を保ったままの改善だと同社は説明します。
OpenAIはGPT-Redを本番モデルとは切り離し、悪用能力が外部に漏れないよう内部専用に保つとしています。今日のモデルで明日のモデルをより安全にする「安全性のフライホイール」を回し始めたと位置づけ、より詳しい内容を記したプレプリントを今週公開する予定です。