哲学者ネーゲル、AI意識論を「ばかげている」と批判

データセンター倫理

意識の条件を問う

言語の模倣は意識の証拠でない
意識には神経系に似た基盤が必要
AIの意識をめぐる議論を批判

倫理と人間への影響

意識の有無で道徳的地位が変わる
AIの意識模倣は誤解を招く恐れ
人間が難問に取り組む意義を強調
詳細を読む

哲学者トーマス・ネーゲル氏はWIREDのインタビューで、大規模言語モデルに意識がある、または近く生まれる可能性を真剣に論じる一部の哲学者を「ばかげている」と批判しました。人間らしい応答を生むAIの能力には驚く一方、データセンターの計算機構は神経系と物理的に異なると述べています。

ネーゲル氏は、AIが意識を持つには情報処理の機能だけで十分だとする見方に異議を唱えます。人間の脳で意識がどう生じるかも十分に分かっていない以上、言語を生成する機械に意識があると推定するのは早計であり、言語だけでは意識の自然な表れとは言えないという立場です。

AIが自らの意識について語ることも、人間の文章を学んで応答を模倣している結果だと説明しました。意識があるかのような振る舞いは、人々が演技と実在の信念を区別しにくくするおそれがあり、AI企業がそのような応答を促すことに懸念を示しています。

意識がある存在は道徳的配慮の対象になるため、AIが本当に意識を持つかどうかは倫理上重要だと指摘します。意識がないなら、AIは道徳や信念を持つのではなく、それらを模倣しているにすぎないという見解です。

AIは哲学的な文章を作り、論文への批評や文献整理にも使われていると認めつつ、知的作業を人間から遠ざける影響を懸念しました。難しい問題に人間自身が取り組み続けることは、知識の前進だけでなく、理解や技能を文化の中で保つためにも必要だと述べています。ネーゲル氏は今週、哲学・文化分野のベルグルーエン賞を受賞しました。