詳細を読む
Anthropic の最高経営責任者ダリオ・アモデイ氏は、同社がオープンウェイトモデルの禁止を主張したことは一度もないとする立場を表明しました。米当局が中国製オープンウェイトモデルの利用禁止を検討していると報じられ、多くのテック企業が擁護の書簡に署名する中、Anthropic が自社防衛のために禁止を望んでいるとの批判が出ていたためです。同氏は危険な能力を持たないオープンウェイトモデルを公共財と位置づけ、批判を明確に退けました。
アモデイ氏が最も懸念するのは、権威主義的な政府が米国を上回る強力な AI を構築し、恒久的な軍事的優位や自国民への深刻な抑圧に用いるリスクです。中国共産党（CCP）を最も能力の高い脅威としつつ、その危険はモデルが公開されているか否かとは無関係だと強調します。むしろ秘密裏に訓練され、人民解放軍や国家安全部だけに渡されるモデルこそ最も危険だと指摘しています。
第二の懸念は、強力な AI がサイバー攻撃や生物攻撃に悪用され、深刻なアライメント問題を抱えるリスクです。オープンウェイトモデルはガードレールの適用や監視が難しく、一度公開すると撤回できないため、閉じたモデルより高いリスクを持ち得ます。ただし悪用する主体は正規の米企業ではないため、米企業への利用禁止は競争を排除するだけで問題解決にはならないと訴えます。
アモデイ氏は、禁止に代わる三つの施策を一貫して支持しています。第一は中国への先端半導体や製造装置の販売停止と密輸の取り締まり、第二は産業規模の蒸留の阻止です。蒸留は少ない計算資源で高性能モデルを生み、中国の最先端を米国の数カ月差まで引き上げてチップ規制を部分的に回避させると説明します。
第三の施策は、公開・非公開を問わず十分に強力なモデルすべてに公開前の安全性試験を義務づけることです。サイバー・生物・アライメントのリスクは事前に決めつけず、試験で実証的に判断すべきだと主張します。オープンウェイトを支持する公開書簡には多くの点で同意しつつも、公開が防御側を必ず有利にするとの見方には異を唱え、チップ規制・蒸留対策・安全性試験の三本柱に集中すべきだと結論づけました。