AI利用者の「認知的降伏」、ペンシルベニア大が実証

ペンシルベニア大学の研究チームが、AIユーザーがLLMの回答に対して批判的思考を放棄する「認知的降伏」という心理的枠組みを提唱しました。論文は学術プレプリントサイトSSRNで公開されています。

研究では、人間の意思決定を直感的な「システム1」と分析的な「システム2」に分類する従来の枠組みに加え、AIによる第3のカテゴリ「人工的認知」を提案しています。これはアルゴリズムによる外部の自動化された推論に基づく判断です。

従来の電卓やGPSなどへの「認知オフロード」は、特定タスクを自動化しつつ人間が結果を監督・評価するものでした。一方、AI への認知的降伏は検証や監督なしに推論そのものを丸ごと委ねる点で質的に異なると指摘されています。

特にLLMの出力が流暢かつ自信に満ちた形で提示される場合、ユーザーは批判的検証を行わずに受け入れやすいことが示されました。時間的圧力や外部インセンティブも降伏を促す要因として実験的に確認されています。

この研究は、AIを日常的に活用するビジネスパーソンやエンジニアにとって重要な警鐘です。AIの回答を鵜呑みにせず、人間側の批判的思考を維持する仕組みづくりが求められます。