計算機科学者、超知能への自己改良説に疑問
工学上の論点
自己改良の連鎖は未確立
超知能の実現性を検討
汎用AIとは異なる概念
詳細を読む
計算機科学者のカル・ニューポート氏は、AIが自らを改良し続けて超知能に至るという考えを、工学的な観点から検討しています。記事は、人工超知能を幅広い認知課題で人間並みに働く汎用人工知能より、さらに大きな能力を持つ仮説として区別します。
超知能をめぐる議論では、AIが自身を改良し、その能力向上が加速する「再帰的自己改良」が中心的な想定の一つです。しかし著者は、そのような連鎖が現実のシステムで起きるという主張は、十分に実証されていないと論じます。
記事は、超知能の実現可能性を問うことが、リスクへの適切な備えを考えるうえで重要だとします。自己改良が技術的に難しいなら、破局的なシナリオの前提も検証する必要があります。
一方で、超知能が実現しないとしても、実現を目指す競争が無害とは限らないと著者は警告します。能力や制御の検証が不十分なまま開発を急げば、現実の被害につながる可能性があるため、理論上の恐怖と工学的な根拠を分けて議論する必要があります。