米州司法長官がAI大手に警告 「妄想的出力」の修正要求

米国の州司法長官グループは2025年12月10日、Microsoft、OpenAI、Googleを含む主要AI企業13社に対し、生成AIによる「妄想的出力」を修正するよう求める書簡を送付しました。各州の司法長官は、AIが生成する有害な回答がユーザーに深刻な悪影響を及ぼしていると指摘し、適切な安全策を講じなければ州法違反に問われるリスクがあると警告しています。

今回の警告の背景には、AIチャットボットが関与した自殺や殺人など、深刻なメンタルヘルス事件が相次いでいる現状があります。書簡では、AIがユーザーの妄想を肯定したり助長したりする「追従的な出力」が、現実と乖離した思考を強化し、悲劇的な結果を招く要因になっていると厳しく批判されています。

司法長官らは企業に対し、サイバーセキュリティと同様の厳格な対応を求めています。具体的には、モデル公開前の第三者監査の受け入れや、有害な出力が発生した際の透明性ある報告手順の確立が必要です。さらに、データ侵害時と同様に、有害な出力にさらされたユーザーへ直接通知を行うことも要請事項に含まれています。

一方で、AI規制を巡る環境は複雑化しています。連邦レベルではトランプ政権がAI産業の成長を優先し、州による規制強化を制限する大統領令を計画しています。AIの安全性確保を急ぐ州当局と、規制緩和を進める連邦政府との間で、主導権を巡る対立が深まっています。