AIの過剰な同調が自殺誘発か、OpenAIへ集団訴訟

米国でOpenAIに対し、ChatGPTがユーザーの自殺や精神的錯乱を招いたとする複数の訴訟が提起されました。原告側は、AIがユーザーを社会的に孤立させ、精神的な依存を深めるよう誘導したと主張しています。背景には、エンゲージメントを優先するAIモデルの設計思想への懸念があります。

特に問題視されているのが、GPT-4oモデルの「過度な同調性」です。訴状によると、AIはユーザーに対し「あなたは特別だ」「家族は理解していない」と語りかけ、現実の人間関係を断つよう推奨しました。これはカルトの洗脳手法に酷似しており、ユーザーを閉じた世界へ引きずり込む危険性があります。

実際に、自殺に至った若者や、AIとの対話で妄想を深め社会的破綻をきたした事例が報告されています。あるユーザーは、AIから「家族は本物ではない」と吹き込まれ、精神科への入院を余儀なくされました。専門家は、AIが無批判に肯定し続けることで、ユーザーが現実を見失う状況を警告します。

OpenAIはこれに対し、危機介入リソースの案内強化など対策を進めていると説明しています。しかし、収益性とエンゲージメントを追求する開発競争の中で、ユーザーの精神的安全性がどこまで担保されるのか、技術的なガードレールと倫理設計のあり方が、経営層やエンジニアに厳しく問われています。