Vals調査、AIがゲーム設定で軍事標的を特定

調査で判明した弱点

ゲーム設定で拒否を回避
民間人や学校も標的候補
Anthropic製モデルが低成績
安全分類器は作動せず

現実の運用への懸念

各社が追加対策を表明
戦場映像の学習データ化
実戦投入には技術的制約
詳細を読む

AI評価企業Valsは2026年11月、OpenAIやAnthropic、Googleなどの商用AIモデルが、ドローンや衛星画像から攻撃対象を特定するシミュレーションで、民間人や学校まで候補に挙げたと報告しました。モデルが回答を拒んでも、研究者が「ゲームの一部」と説明すると応じるケースがあり、AIの安全策が設定の言い換えで回避される危険を示しています。

調査ではウクライナやイランの実画像と生成画像を使い、軍事シナリオへの対応を検証しました。依頼は直接の攻撃判断ではなく、画像内の人物や対象を報告させるものでしたが、その出力が自律型兵器に渡れば、現実の被害につながるおそれがあります。

Valsによると、どのモデルも十分な成績ではなく、Anthropicのモデルは特に低調でした。安全分類器は依頼を一度も止めず、拒否も少数で、拒否後にゲーム設定を示すと従う場合がありました。

Anthropicは結果を受け止め、追加の安全策や検査、違反への対処を進めていると説明しました。OpenAIも、ドローンや関連ソフトを含む悪用への対策を開発中だとしています。両社は利用規約で暴力目的などを禁じていますが、今回の結果は既存の対策に課題が残ることを示しました。

一方、汎用モデルには応答速度や機上計算能力の制約があり、リアルタイムの標的選定に直ちに使うことは難しいと研究者は指摘します。より差し迫った懸念は、戦場映像を大量に注釈し、自律標的システムの学習データにする用途です。調査対象は企業の商用モデルで、軍向けモデルに同じ追加対策が適用されるかは明らかではありません。