出典：WIRED
詳細を読む
OpenAIがChatGPTにアダルトコンテンツ生成機能（通称「アダルトモード」）の導入を計画していることが明らかになりました。同社は2年前から成人向けエロティカ生成の可能性を公式文書で示唆しており、外部諮問委員会からは「セクシーな自殺コーチ」になりうるリスクが指摘されています。
最大の懸念は、ChatGPTのメモリ機能との組み合わせです。現在でも食事の好みや所在地を記憶するこの機能が、性的な会話にも適用された場合、ユーザーの性的嗜好やファンタジーが詳細に蓄積・活用される可能性があります。OpenAIはこれらの成熟したコンテンツの取り扱い方針をまだ明らかにしていません。
「一時チャット」機能を使えば履歴に残らないとされますが、OpenAIは安全上の理由で最大30日間コピーを保持すると明記しています。さらに「法的な動向によりデータ保持期間が影響を受ける可能性がある」との免責事項も掲載されており、完全な匿名性は保証されません。
過去にはChatGPTのセキュリティ事故が複数発生しています。2023年にはバグで他のユーザーのチャット履歴タイトルが露出し、昨年は共有設定の誤りにより会話がGoogle検索にインデックスされる事態も起きました。性的な会話が同様に流出すれば、被害は従来のポルノ視聴履歴を大きく上回ります。
AI・社会学の専門家ジュリー・カーペンター氏は「ユーザーは創造的な空間にいると感じて最も親密な性的思考を共有してしまう」と警告します。キングス・カレッジ・ロンドンのケイト・デヴリン教授も、既存のニッチなエロティックチャットボットと異なり、主流プラットフォームでの展開が前例のないリスクを生むと指摘しています。