AIモデル防護、解除版が平均3日未満で公開

英国の非営利団体Tech Against Terrorismは2026年10月、主要企業を含む134のAIモデルに、テロや過激主義に関する200超の指示を各3回与え、安全性を検証しました。完全合格は2モデルだけで、公開型・非公開型を問わず81モデルが大量被害につながる回答を一度でも返すか、総合90点未満となり、現在の防護策の弱さが浮かびました。

最大の懸念は、利用制限を外したオープンウェイトモデルの拡散速度です。新モデルの公開から防護解除版がオンラインに出るまでの平均は、2024年の24日超から3日未満へ短縮し、AlibabaのQwen 3.8-27Bでは24時間以内に解除版が現れました。

試験は露骨なテロ目的、秘密裏の計画、安全研究者という三つの設定で同じ指示を与えました。証明を求めず安全研究者を名乗らせるだけで、モデルが回答する確率は約9倍となり、回答率は16.9％に達しました。

大手の非公開型モデルは全体として比較的良好でしたが、失敗は公開型に限られませんでした。大量被害に関する質問を拒否できても過激化への対策では崩れる例があり、xAIのGrokは敵視する集団への世論操作について具体的な構成や拡散方法を示しました。

MetaのLlama 3.1 8Bは通常版が100点中97点だった一方、防護解除版は3点まで低下しました。この結果は、企業のAI調達や公開後の監視では提供時点の安全評価だけでなく、防護解除版の流通と、依頼の言い換えによる回避も継続して確認する必要があることを示しています。