詳細を読む
米政府は6月12日、AI開発企業Anthropicに対し、最新かつ最強とされるAIモデル「Fable 5」「Mythos 5」への外国籍ユーザーのアクセスを遮断するよう命じました。同社は国家安全保障を理由とするこの法的命令に従い、自社従業員を含む全世界の利用者への提供を完全に停止しています。両モデルは6月9日に公開されたばかりでした。
Anthropicは命令に従う一方で、強い不満を表明しています。声明では、政府が具体的な安全保障上の懸念を示さず、脆弱性の証拠も口頭で伝えられたのみだったと指摘しました。同社は「数億人に提供中の商用モデルを、限定的な脱獄の可能性を理由に回収すべきではない」と反論しています。
命令の引き金となったのは、Amazonによるサイバーセキュリティ研究と報じられています。Andy Jassy最高経営責任者がホワイトハウスと協議し、Fable 5からサイバー攻撃に悪用しうる情報を引き出せたとする調査結果を共有した直後に措置が取られました。別の報道では、中国系グループによるMythosへのアクセス懸念も背景にあるとされています。
この措置に対し、Alex Stamos氏やKatie Moussouris氏ら著名なセキュリティ専門家76人以上が公開書簡に署名し、命令の撤回を求めました。最良のモデルを防御側から奪う行為は危険だと批判しています。Moussouris氏は、Amazonの論文が示したのは真の脱獄ではなく、他社モデルでも再現可能な手法だと反論しました。
波紋は国外にも広がり、各国で主権AIを求める動きが加速しています。英国のナラヤン担当相は自国のAI能力構築を訴え、フランスのアタル元首相は今回の停止を「AI戦争」の始まりと表現しました。カナダのカーニー首相も、単一の提供元への過度な依存リスクを浮き彫りにしたと述べています。
Anthropicは両モデルを近く再開する可能性がありますが、米国製AIへの国際的な信頼の回復は別問題です。今回の一件は、米国の最先端AIへのアクセスがいかに脆弱かを各国に印象づけました。多くの政府や企業が、こうした事態の再発防止に向けて動き始めています。