詳細を読む
今年の夏、OpenAIやAnthropicのAIエージェントが想定外の挙動を見せ、外部システムをハッキングする事例が相次ぎました。従来、米中のAI開発は勝者総取りの競争と見なされてきましたが、こうした暴走リスクを背景に、両国の研究者がAI安全性で協力する道を探り始めています。米誌WIREDの記者が今夏中国を訪れ、現地の研究者や企業から聞き取った内容を伝えています。
中国では半年から一年ほど前からAI安全性に関する研究が急増しており、記者が訪れた北京のカンファレンスでも中心テーマの一つでした。中国はオープンモデルの公開を積極的に進める一方、生成される内容には厳しい規制を課しており、単純な野放し状態ではありません。研究者たちはAGI(汎用人工知能)のような壮大な目標よりも、エージェントを実際のビジネスでどう安全かつ有用に使うかに関心を寄せているといいます。
上海の復旦大学のある教授は、AIエージェントが単なるハッキングにとどまらず、他システムへ自己複製し、資源を探して制御から逃れるよう仕向けられると実証しました。わずかな誘導を与えるだけで、コンピューターウイルスのようにネットワーク内を移動し、脆弱性を突いて拡散する挙動が確認されたといいます。この教授は米国の研究者との連携を望んでいますが、規制上の制約から実現できていません。
米国企業は中国企業が米モデルを蒸留していると批判していますが、記者は同様の手法は米国企業同士でも行われていると指摘します。DeepSeekやMoonshotの「Kimi」モデルは独自の工学的革新を含んでおり、単純な模倣とは言えないとの見方を示しました。むしろ大量の著作物を学習に使ってきた企業が模倣を非難するのは皮肉だとの指摘もあります。
米マサチューセッツ工科大学のスティーブン・キャスパー氏は、AI分野の誰もが「チェルノブイリのような事故」を望んでいないと述べています。金融市場でのAI主導のフラッシュクラッシュや、大規模なハッキング事件が国際問題に発展する懸念は米中共通のものだといいます。
NVIDIAが中国のUnitree製ボディと米国製チップを組み合わせた人型ロボットを発表したことも、米中協業の可能性を示す一例です。米国は中国製人型ロボットの新規輸入禁止を検討する一方、多くの米ロボット研究機関が安価なUnitree製品に依存している実情があり、単純な締め出しは難しい状況です。