世界のリーダーら、AI開発に「越えてはならない一線」を要求

元国家元首やノーベル賞受賞者、AI企業のリーダーら200名以上が9月22日、AI開発において越えてはならない「レッドライン」を設ける国際協定を求める共同声明を発表しました。国連総会に合わせて発表されたこの声明は、AIがもたらす潜在的なリスクを未然に防ぐため、2026年末までの国際的な政治合意を各国政府に強く促すものです。

この「AIレッドラインに関するグローバルな呼びかけ」は、AIによる人間へのなりすましや、制御不能な自己複製などを禁止事項の例として挙げています。AIが人類に何をしてはならないか、最低限のルールで国際社会が合意することが急務だと訴えています。AI開発の方向性で各国が合意できなくとも、禁止事項では一致すべきだという考えです。

署名者には、AI研究の権威ジェフリー・ヒントン氏、OpenAI共同創業者ヴォイチェフ・ザレンバ氏、AnthropicのCISOなど業界を牽引する人物が名を連ねています。AIの能力を最もよく知る専門家たちが、そのリスクに警鐘を鳴らしている形と言えるでしょう。

企業の自主的な取り組みだけでは不十分だという危機感も示されました。専門家は、AI企業が定める責任あるスケーリング方針は「真の強制力に欠ける」と指摘します。将来的には、レッドラインを定義・監視し、強制力を持つ独立した国際機関が必要になるとの見解が示されています。

現在、EUのAI法など地域的な規制は存在しますが、世界共通の合意はありません。米中間では核兵器の制御をAIに委ねないという限定的な合意があるのみです。今回の呼びかけは、こうした断片的なルールではなく、より広範で普遍的なグローバル基準の必要性を浮き彫りにしています。

AI規制が経済発展やイノベーションを阻害するとの批判もあります。しかし、専門家はこれを否定します。「安全性を確保する方法がわかるまでAGI（汎用人工知能）を開発しないことで両立できる」と主張。安全性を組み込んだ技術開発こそが、持続的な発展につながるのではないでしょうか。