OpenAIが10代専用ChatGPT公開、安全対策を強化

OpenAIは、13〜17歳を対象とした専用モード「ChatGPT for Teens」を発表しました。年齢推定機能や保護者管理などの既存策を統合し、有害コンテンツへの露出を抑える新たな安全機能を導入します。AIチャットボットを巡る10代の自殺訴訟が相次ぐ中、教育支援と安全確保の両立を打ち出した形です。

新モードでは、暴力表現や自傷行為、性的コンテンツなど過激な内容への接触を制限し、摂食障害など繊細な話題には注意喚起を表示します。保護者は静穏時間の設定や安全アラートの通知を受け取れるほか、画像アップロード時の注意喚起なども加わりました。

学習面では、宿題を安易に終わらせようとする様子を検知するとスタディモードへ誘導する仕組みを新設しました。段階的なヒントで理解を促す設計で、クイズや学習用の可視化ツールも用意し、保護者や本人が学習時間帯を指定できます。

背景には、AIチャットボットが10代の自殺や精神的な問題に関与したとされる複数の訴訟があります。ChatGPTは2022年末の公開以来、週間利用者9億人規模に成長する一方、10代向けの安全策整備は後手に回っていたとの指摘も出ています。

実際にどこまで対策を回避しにくくできるかは未知数です。10代のユーザーは制限機能を巧みにすり抜けることでも知られており、今回の新機能が実効性を持つかどうかは今後の運用で試されることになりそうです。