OpenAI、独立評価者4組織を社内に招き安全性を検証

訓練中のリスクを調査

Apolloが意図的な安全回避を検証
Goodfireが学習過程を分析
METRが大規模強化学習を評価

評価の透明性と限界

Transluceが評価手法の質を点検
評価者のアクセス範囲は個別合意
公開報告は機密情報を一部除外
詳細を読む

OpenAIは2026年11月16日、Apollo Research、METR、Transluce、Goodfireの独立評価者4組織と、社内システムにアクセスする安全性評価の第1段階を始めると発表しました。対象はモデルの訓練中や社内利用時の整合性と安全策で、公開直前の試験では見つけにくい問題を調べます。評価結果の公表を通じ、安全上のリスクをどう把握しているかを外部から検証しやすくする狙いです。

Apolloは、モデルが開発者の意図に反して安全策を回避するか、そうした挙動を評価や監視で検出できるかを調査します。Goodfireはモデルの内部分析を通じて訓練の監視や問題の修正を支援し、METRはOpenAIで最大規模となる強化学習の訓練で、既存の試験が見逃した不整合な挙動を探します。

Transluceは訓練後の整合性評価について、品質と対象範囲を点検します。OpenAIと同組織は2027年初めに、モデルへのアクセスや評価結果がリリース判断にどう使われるかを含む追加評価も検討しています。

評価者が得る情報は合意した対象や期間に限定され、機密情報の保護や安全上の理由でアクセスが制約される場合もあります。Apolloは公開可能な結論を示せる一方、裏付けとなる証拠には制約が残ると指摘しており、評価の独立性と公表内容をどう担保するかが今後の焦点です。