詳細を読む
Anthropicのダリオ・アモデイCEOは9月12日、米国の最先端AI開発を安全性の確認に合わせて減速させる構想を公表しました。企業内に第三者評価者を置き、競合企業が能力基準や計算資源の制限を協議できるよう独占禁止法上の措置を求め、将来は中国を含む国際協調も目指します。急速な性能向上で事故や制御不能の懸念が増す一方、競争力を損なわず安全対策を進める狙いです。
提案にはOpenAIのサム・アルトマンCEOとイーロン・マスク氏が賛同し、Microsoftのサティア・ナデラCEOも開発速度の調整を支持しました。アルトマン氏は、独立評価者に社員並みのアクセス権を与え、安全性を検証して事故を報告する取り組みを受け入れる考えです。
一方、トランプ政権は政府主導の減速に否定的です。デービッド・サックス氏は各社に自主規制を求め、競合間の協議がカルテル化する恐れを指摘し、トランプ大統領やマイク・ジョンソン下院議長も中国への技術優位を失うリスクを強調しました。
国際協調にも難題があります。中国のモデル性能が米国勢に数カ月差まで迫るとされる中、アモデイ氏自身も高度な減速合意の早期成立は難しく、参加国からの離脱が地政学的な優位につながり得ると認めています。
VentureBeatの寄稿者は、常駐評価や継続的な認証が中央管理型の大手企業に有利で、オープンウェイト型モデルや新規参入企業には重い固定費になると批判しました。企業や開発者にとっての焦点は、安全性を高める制度が市場競争と選択肢を狭めない設計になるかです。