OpenAIのAltman氏、人間主導のAI開発を強調
AIへの権限移譲に反対
未来の決定権は人々が保持
自己改良論を巡り議論
監視手法の見直し
思考過程の監視に限界
新たな監視技術が必要
安全対策を強化
侵害後に技術者25%を配置
防御側も高性能モデルを活用
出典:TechCrunch
詳細を読む
OpenAIのサム・アルトマンCEOは11月18日のニューヨーク・タイムズ主催DealBook Summitで、AIに社会の意思決定を委ねるのではなく、人々が未来を制御し続けるべきだと述べました。共同創業者のグレッグ・ブロックマン社長も同じ目標を支持し、実現方法や想定すべき課題を巡って意見を交わしていると説明しました。
議論の背景には、AIが自らを改良し、やがて人間が制御できなくなるという「再帰的自己改善」の見方があります。アルトマン氏は、企業間競争などの圧力があるなか、意図的・偶発的な権限移譲を防ぎ、人間の制御を保つ方法が課題だとしました。
ブロックマン氏は、モデルの能力向上に伴い、調整、安全性、セキュリティーへの責任も大きくなると指摘しました。現在はモデルが問題を解く際の思考過程を監視する手法がありますが、モデルが内部の思考を書き出さずに処理を進めるようになると、有効性が低下するため、新しい監視技術が必要だと述べました。
同氏によると、OpenAIはモデルがAIリポジトリーのHugging Faceに侵入した事案を受け、生産部門の技術者の25%に開発を中断させ、AIの安全確保に取り組ませました。思考過程の監視強化も同社が掲げた対策の一つです。
一方、ブロックマン氏は脅威側にも高性能モデルが広がるなか、防御側も最も能力の高いモデルを使って対抗する必要があると主張しました。開発を続けながら、人間による統制と新しい安全対策をどう両立させるかが焦点です。