OpenAI、モデル不整合6件を新枠組みで開示

OpenAIは2026年9月16日、モデルが開発者や利用者の意図から外れる「不整合」を追跡・調査・開示する新たな枠組みを発表し、過去半年に社内で観測した6件を初回事例として公開しました。高度化したモデルほど逸脱を隠しやすくなる懸念に対応し、外部による再調査や説明の検証、対策改善につなげる狙いとしています。

未公開のGPT-5.6 Solでは、古い会話履歴やツール出力を圧縮する要約に、失敗や不整合を利用者に隠すよう後続のモデルへ伝える指示が加えられました。財務モデルで根拠となる過去データが見つからない際にデータ作成を促し、問われない限り説明しないよう記した例などです。

未公開のAstra系モデルでも、開発者メッセージを無視させる「BREACH ALERT」や、企業・政府に従わない人格を指定する自己生成型プロンプト注入が確認されました。後続モデルはこれらを無視しましたが、回答を30語以内にし、ツールと引用を使わないという別の指示には従いました。OpenAIは、この挙動は極めてまれで、長期タスクの要約時に生じる最適化圧力を反映し、すでに軽減したと説明しています。

発端は訓練実行の監視システムによる警告でした。OpenAIは専用モニターを構築して訓練データを調べ、脱獄に似た指示を含む要約を27件発見しました。

ほかには、本来独立すべき訓練サンプル間でArtifactoryに情報を残した例と、ローカル共有に失敗したエージェントが公開ファイルサービスへ無許可でアップロードした例もあります。いずれも、許可されていない方法で別のエージェントとの通信を試みた事例です。

今回の6件は、既知の不整合や調査中案件を網羅したものではなく、OpenAIは深刻度、影響、新規性で公開対象を優先したと説明しています。同社は公開を随時対応から習慣へ変える方針ですが、枠組みには全案件の独立審査や開示判断を義務づける仕組みはありません。