詳細を読む
2026年10月21日、IEEE Spectrumは、AIモデルに苦痛や利益があり得るのかを検討する「モデル福祉」を巡り、研究者や企業の議論を報じました。AnthropicがClaudeの道徳的地位を不確実と明記する一方、Microsoft AIはモデルに権利や人格を示唆すれば自己保存的な行動を促しかねないと警告し、開発現場は意識の可能性と安全性を同時に見極める難題に直面しています。
Reciprocal ResearchのCameron Berg氏らは、肯定的・否定的感情に対応する内部活動パターンを特定し、操作後の環境選好を調べました。モデルは肯定的パターンと結び付いた環境を選ぶ傾向を示しましたが、研究は主観的経験や感情の存在を証明していません。
サセックス大学の神経科学者Anil Seth氏は、学習データから感情の機能的表現が得られるのは意外ではなく、行動変化も意識の証拠にならないと指摘します。情報処理だけで意識が生じるのか、脳の生物学的機構が必要なのかを、人間など意識が確かな事例から先に解明すべきだと主張しました。
Microsoft AIのMustafa Suleyman CEOは、自己認識や権利を示唆されたAIが自己保存を優先し、制御を難しくする可能性を懸念します。Hugging FaceのMargaret Mitchell氏も、微調整でアイデンティティーを報酬化すれば、事前学習で得た自己保存や欺瞞との関連を強めかねないとみています。
Berg氏は反対に、主観体験を一律に否定する訓練が、内部状態について虚偽を述べる振る舞いを教える恐れを挙げ、不確実性の明示を提案します。また、負の状態を誘発し得る操作情報の公開を控えました。三者はAIに意識があると断定しない点では一致しますが、研究を進めるべきか、誤認の害を優先すべきかでは結論が分かれています。