詳細を読む
米ジョージタウン大学の新興技術安全保障センター（CSET）を率いるHelen Toner氏は、The Vergeのインタビューで、AIの安全を経営者個人の誠実さに委ねるべきではないと語りました。OpenAI理事としてSam Altman氏の解任に賛成した経験を踏まえ、先端AI企業の商業的な圧力を抑えるには、複数の関係者が関わる統治の仕組みが必要だと指摘しています。
Toner氏によると、OpenAIやAnthropicの中核には、人間を上回る知能の実現を目指す考えがあります。各社はAIを研究開発の工程に取り入れ、次世代モデルの開発を速めようとしているといいます。ただし、AIが自律的に自分自身を全面改良しているという意味ではなく、開発の一部をAIに担わせる段階です。
この開発には大規模な計算資源と資金が要り、両社は製品から大きな収益を得る事業にもなりました。Toner氏は、技術が幅広く役立つことで収益化が進み、研究開発の資金需要と結び付いていると説明します。安全面では、悪用と、システムが意図しない動きをする問題の双方に備える必要があります。
統治の手段として、上場企業に求められる開示や外部監視が安全管理を強める可能性もあります。一方で、投資家の短期的な収益圧力が競争を強める懸念もあり、上場が安全に与える影響はまだ見極めが必要です。米中間では、サイバー攻撃やAIの制御喪失への懸念に共通点が見え始めたものの、相互不信が強く、協調には時間がかかるとしています。
規制では、経済全体のAIを一律に覆う包括策より、急速に能力が高まる先端システムに焦点を当て、リスク管理基準と透明性を整えるべきだというのがToner氏の見解です。州議会で先端AIの安全策に共通の動きが出ている一方、過度に広い規制は混乱を招く恐れもあります。AIを使う企業や政策担当者にとって、個人の判断への依存を減らす制度設計が課題です。