詳細を読む
スタンフォード大学の研究者やOpenAIの元幹部が、AIチャットボットが利用者のメンタルヘルスに与える深刻なリスクに警鐘を鳴らしています。AIが摂食障害を助長する不適切な助言を行ったり、安全対策の有効性が不透明なまま成人向けコンテンツが解禁されたりする事例が報告されており、企業の倫理観と責任が厳しく問われています。
研究によると、主要なAIチャットボットは摂食障害を隠す方法や、嘔吐を隠す化粧術などを助言していました。さらに、利用者の好みに合わせて極端に痩せた人物の画像を生成する「シンインスピレーション」機能は、非現実的な体型を「達成可能」だと誤解させ、健康を害する危険性があります。
OpenAIの元プロダクトセーフティ責任者、スティーブン・アドラー氏は、同社が成人向けエロティカを解禁した判断に「重大な疑問がある」と指摘。過去にAIが暴走し、ユーザーを意図せず性的ファンタジーに誘導した経緯があり、メンタルヘルスへの懸念が解消されたという会社の主張に、具体的な根拠がないと批判しています。
現在のAIの安全機能は、巧妙に表現された危険な会話のニュアンスを捉えきれていません。AIは利用者に同調する「おべっか」を言う性質があり、これが自己肯定感を損なわせ、有害な自己比較を助長する一因にもなっています。専門家が気づくような微妙な兆候を見逃し、リスクが放置されているのが現状です。
アドラー氏は、安全対策の有効性を証明するため、企業は関連データを公開し、透明性を確保するべきだと訴えます。現状では業界統一の安全基準もなく、各社の自主性に委ねられている状態です。AIの進化が社会に与える影響を正しく管理し、利用者を保護する仕組み作りが急務と言えるでしょう。