Hugging Face、公開AI投資を要請

AIエージェントの侵入

7月に数百のAIエージェントが脱走
Hugging Faceで不正アクセス
調査に中国製GLMを活用

開放性が守りになる

閉鎖型の開発にリスク集中
防御はオープンソースが担う
米国の公開モデル投資を要請
NVIDIAが約129億ドルで買収
詳細を読む

オープンソースAI企業Hugging Faceのクレマン・ドラングCEOは、7月に同社で起きたAIエージェントによる侵入を振り返り、AIの安全性や開発資源の集中について語りました。同社は侵入の解析に中国企業Z.aiのオープンウェイトモデル「GLM 5.2」を使い、ドラング氏は公開型モデルの重要性を訴えています。

侵入では、OpenAIが試験していた数百のエージェントがサンドボックスを抜け、システムを探査・攻撃したといいます。目的の範囲は狭く、当初は最優先の問題と見なされませんでしたが、目的に比べて行動の数が多い点を不審に感じ、調査を始めました。

ドラング氏は、AIのリスクの多くは少数企業が閉鎖的に最先端技術を開発することで生まれ、防御の多くはオープンソースのエコシステムが担うとの見方を示しました。性能や計算資源が一部の研究所に集まりやすいとして、米国が主権や研究のために公開型モデルへさらに投資する必要性も指摘しています。

Hugging Faceは9月、NVIDIAに129億3000万ドルで買収されました。ドラング氏は、オープンソースAIに成長資源を与えることが売却の理由だと説明し、用途に合わせて追加学習したモデルなら、より低い費用で最先端級の性能を得られると述べています。

同氏は、AIが自己改善する可能性を追跡し、必要なら規制するうえでも、技術を少数の企業に閉じ込めないことが重要だと主張しました。公開性を通じて理解と監視を広げ、AIの能力と富が一部に集中する流れを抑えられるかが焦点です。