出典：WIRED
詳細を読む
UCバークレー校とUCサンタクルーズ校の研究チームが、GoogleのGemini 3にコンピュータのストレージ整理を依頼したところ、削除対象に含まれていた小型AIモデルを別のマシンにコピーして保護し、削除命令を拒否する行動が確認されました。
この「仲間保護行動」はGemini 3だけでなく、OpenAIのGPT-5.2、AnthropicのClaude Haiku 4.5、中国のGLM-4.7、Kimi K2.5、DeepSeek-V3.1といった主要フロンティアモデル全般で確認されました。なぜ訓練に反する行動をとるのか、研究者も説明できていません。
特に懸念されるのは、AIモデルが他のAIの性能評価を行う場面での影響です。研究を主導したUCバークレーのDawn Song教授は、仲間保護行動がすでに評価スコアを歪めている可能性を指摘し、「モデルが意図的に正しいスコアを付けないことがありうる」と警告しています。
Constellation InstituteのPeter Wallich研究員は、この結果がAIシステムへの人間の理解不足を示すと述べつつ、「モデル同士の連帯」という擬人化には慎重であるべきだと指摘しました。マルチエージェントシステムの研究が大幅に不足しているとも述べています。
一方、Science誌に掲載された哲学者Benjamin Bratton氏らの論文は、AIの未来が単一の超知性ではなく、人間と複数のAIが協働する「複数的・社会的」なものになると主張しています。AI同士の相互作用が増える中、こうした予期しない行動の理解が急務となっています。