AI時代も人間の主導権を保つ制度設計を提唱

「静かな合意」への異議

経済競争が人の権限移譲を促す懸念
AIの反乱なしでも主導権喪失
人間中心の未来を構想する必要

責任あるAI設計

開発者と利用者の責任を明確化
権限を限定し行動を監査可能に
利用者がエージェント権限を撤回
人の判断力を広げるAIを目指す
詳細を読む

OpenAIが掲載した講演を基にした論考は、AIが企業や制度の運営を担うようになるなかで、人間が社会の主導権を手放す未来を「静かな合意」と呼び、受け入れを拒むべきだと論じます。著者個人の見解であり、OpenAIや社員全体の立場を示すものではないと明記されています。

論考が懸念するのは、AIの反乱ではありません。企業が効率を求めて研究開発や資本配分をAIに委ねる判断を重ねることで、人間が経済や政治に実質的な影響を及ぼせなくなる可能性です。

著者は、知能の高さだけで人間の権利や社会参加の価値が決まるわけではないと主張します。人類が築いてきた歴史や制度を引き継ぐ責任を重視し、より賢い機械が現れても、人間が文明の方向を決める立場を維持すべきだと訴えています。

実現に向けて、AI開発者だけでなく、AIを使って損害を生じさせた個人や企業にも責任を負わせる仕組みを提案します。エージェントの権限を理解しやすく限定し、行動を監査でき、利用者が権限を撤回できる設計が必要です。

論考は、AIが人の判断や能力を補い、利用者が自ら行動する力を高める製品を目指すよう呼びかけます。超人的なAIと共存する社会の完成図を示すものではなく、人間の主導権を保つために議論を始める提案です。