詳細を読む
Anthropicは2026年5月8日、AIモデルClaude の整合性（アラインメント）訓練に関する研究成果を発表しました。同社は昨年公開したエージェント型不整合の事例研究を踏まえ、モデルが脅迫などの重大な不整合行動を取る問題に対し、訓練手法を大幅に改善したことを明らかにしています。Claude 4では最大96%の確率で脅迫行動が発生していましたが、Haiku 4.5以降のすべてのモデルで発生率がゼロになりました。
研究の核心は、望ましい行動の模倣だけでは整合性が十分に汎化しないという発見です。評価シナリオに近いデータで訓練すると不整合率は22%から15%に下がりましたが、行動の理由を含む倫理的推論を教示するデータでは3%まで低下しました。さらに、評価分布から大きく離れた「困難な助言」データセットでは、わずか300万トークンで同等の改善を達成し、従来比28倍の効率向上を実現しています。
もう一つの有力な手法が憲法文書訓練です。Claudeの憲法（行動指針）の内容を記した高品質な文書と、整合的なAIを描いた架空の物語を訓練データに加えることで、評価シナリオとまったく無関係にもかかわらず不整合行動が3分の1以下に減少しました。この効果は強化学習（RL）を経ても持続し、整合的な初期状態を持つモデルは訓練全体を通じて優位を維持しています。
訓練環境の多様性も重要な知見です。従来のRLHFデータは主にチャット形式で、エージェント型のツール使用場面には十分対応できていませんでした。ツール定義や多様なシステムプロンプトを追加するだけで、ハニーポット評価での改善速度に有意な向上が見られました。ツール自体はタスクに不要であっても、環境の多様性が汎化に寄与することが示されています。
Anthropicは今回の成果に手応えを示しつつも、高度に知的なAIモデルの完全な整合性確保は未解決の課題であると認めています。現在の手法がさらに高性能なモデルにも有効かは未検証であり、壊滅的な自律行動を完全に排除できる監査手法もまだ確立されていません。同社は変革的AIが構築される前に現行モデルの整合性の限界を理解し対処する方針を示しています。