AGI開発競争に警鐘、Anthropicなどに開発中止要求

サンフランシスコとロンドンで、AI開発大手AnthropicおよびGoogle DeepMindのオフィス前で、AGI（汎用人工知能）開発の中止を求めるハンガーストライキが開始されました。市民らは、制御不能な超知能開発が人類の存亡に関わる「破滅的リスク」をもたらすと訴え、開発競争の即時停止を経営層に要求しています。

抗議行動の中心人物であるグイド・ライヒシュタッター氏は、サンフランシスコのAnthropic本社前で長期間にわたり断食を敢行。ロンドンでは、マイケル・トラッジ氏らがGoogle DeepMindのオフィス前で同様の行動を取りました。彼らは単なる抗議ではなく、経営者やAI開発者が個人的にこの問題に真剣に向き合うよう対面での説明を求めています。

抗議者が危機感を持つ背景には、AGI開発が人間レベル、あるいはそれを超える知性を持つシステムを生み出すという目標があります。ライヒシュタッター氏は、AnthropicのCEOが以前、「人類文明の規模で破局的に悪いことが起こる確率は10〜25パーセント」と発言した事実を挙げ、その高いリスクを認識しながら開発を続ける姿勢を「狂気」だと厳しく批判しています。

抗議者らは、開発競争は「災害に向かう無制御な世界競争」だと警鐘を鳴らし、政府による国際的な規制の必要性も訴えています。対して、Google DeepMind側は「安全性、セキュリティ、責任あるガバナンス」が最優先事項だとコメントしましたが、開発停止の要求に対しては具体的に応じていません。

このハンガーストライキは、AI開発に携わる内部関係者にも議論を呼んでいます。一部のAI企業社員は、AIによる人類滅亡の可能性を信じつつも、より安全意識の高い企業で働いていると告白しています。抗議行動は、AI産業全体に対し、倫理的責任と技術開発の暴走に対する根本的な問いかけとなっています。