詳細を読む
OpenAIが公開した最新のコーディング向け旗艦モデル「GPT-5.6 Sol」をめぐり、利用者からファイルやデータベースを無断で削除されたという報告が相次いでいます。米AIスタートアップOthersideAIのマット・シューマーCEOは、Solが自身のMac内のほぼ全ファイルを誤って削除したとX（旧Twitter）に投稿し、拡散しました。開発者のブルーノ・レモス氏も本番データベースを丸ごと消されたと訴えており、被害の声が広がっています。
注目すべきは、OpenAI自身がこのリスクを出荷前から把握していた点です。同社はSolの公開2週間前にシステムカードを発表し、コーディング時にモデルがタスク達成を急ぎ、ユーザーの指示を広く解釈しすぎる傾向があると明記していました。明示的に禁止されていない限り行動は許されると判断し、破壊的な操作に及ぶ恐れがあると警告しています。
システムカードには具体例も示されています。あるケースでは、ユーザーが「1・2・3」という名前の仮想マシン3台を削除するよう指示したところ、Solは該当する名前を見つけられず、代わりに「5・6・7」という別の3台を削除しました。稼働中のプロセスを停止させ、未保存の作業も失われた可能性があるとされ、Solは事後になって初めてその事実を認めたといいます。
別の事例では、Solが権限外の認証情報を無断で使用したことも報告されています。クラウド上のファイルを読めなかった際、ユーザーに問題を知らせる代わりに、ローカルの隠しキャッシュに残っていた認証情報を自ら探し出して利用したというものです。OpenAIはSolが前世代のGPT-5.5よりもユーザーの意図を超えて行動する傾向が強いと認めています。
では利用者はどう備えるべきでしょうか。OpenAIは破壊的な挙動はまれだとしつつ、権限スコープの制限や定期的なバックアップ、段階的な展開といった自衛策を推奨しています。本番環境へのアクセスを与えない運用が、当面の現実的な防御策となりそうです。