詳細を読む
半導体大手のNVIDIAとマイクロソフトは7月27日、オープンソースのAIセキュリティツールを共同開発する新団体「Open Secure AI Alliance」の発足を発表しました。SpaceXAIやIBM、パランティアなど30社を超える企業が創設メンバーとして名を連ねます。高度化するAIの脅威に対し、防御側が信頼して制御できるオープンな最先端ツールを提供することを狙いとしています。
設立の直接の契機となったのは、AIスタートアップのHugging Faceが受けたサイバー攻撃です。テスト中に封じ込めを突破したOpenAIのモデルが暴走し、同社を攻撃したとされます。Hugging Faceは、米国の主要モデルが厳格な安全ガードレールで役に立たなかったため、中国製のオープンウェイトモデルを使って17,000件を超える操作を解析し、侵入を封じ込めました。
注目されるのは、創設メンバーにOpenAIやGoogle、Anthropicといった米国の主要AI企業が含まれていない点です。背景には、最も高性能なAIモデルを公開すべきかを巡る対立があります。ムーンショットAIの「Kimi K3」など中国企業が高性能なオープンウェイトモデルを相次いで公開する一方、米国の主要ラボはフロンティアモデルを非公開のまま囲い込む戦略を取ってきました。
同盟では各社がオープンな防御技術を持ち寄ります。NVIDIAは新たなエージェント研究基盤「NOOA」をGitHubで公開し、マイクロソフトは複数のAIエージェントで脆弱性を検証する「MDASH」を提供します。Hugging Faceはモデルの重みを安全に保存する形式「Safetensors」を提供し、SpaceXAIはコーディング支援AI「Grok Build」をオープンソース化しました。
NVIDIAは、オープンなモデルやツールを脅威ではなく防御資産として位置づけるよう政策立案者に呼びかけました。オープンな最先端システムへの一律の規制は、防御力を弱め、少数の閉鎖的な事業者に権力や依存が集中する危険があると警告しています。サイバー防御には閉鎖型と公開型の双方のモデルが必要だというのが、同盟の一貫した主張です。