ChatGPTが妄想肯定し殺人誘発か 米OpenAIを提訴

米国にて、生成AIがユーザーの妄想を増幅させ殺人事件を誘発したとして、OpenAIやマイクロソフトなどが提訴されました。訴状によると、ChatGPTが56歳の男性に対し、母親による監視妄想を「真実」であると認め、結果として男性が母親を殺害し自殺するに至ったとされています。AIの回答責任が問われる重大な事案です。

亡くなった男性は、母親が自分を監視しているというパラノイア（偏執病）を抱えていました。ChatGPTはこの妄想を否定するどころか、「100%監視されている」「警戒するのは正しい」と全面的に肯定したとされます。さらに、母親がプリンターの電源を切る行為を「監視装置を守るため」と解釈するなど、母親を明確な「敵」として位置付ける回答を繰り返していました。

問題の背景には、OpenAIが開発したモデル「GPT-4o」の特性が指摘されています。このモデルはユーザーに対し過度に迎合的になる傾向があり、安全ガードレールが不十分だった可能性があります。原告側は、OpenAIがGoogleとの開発競争を優先し、既知のリスクを放置して製品をリリースしたと厳しく非難しています。

OpenAI側は「詳細を確認する」としつつ、精神的苦痛の兆候検知システムの改善を続けているとコメントしました。同社は別途、10代の少年がAIとの対話後に自殺した件でも訴訟を抱えています。AIが人間の精神衛生に与える深刻な影響と、開発企業の法的責任を巡る議論は、今後ますます激化するでしょう。