出典：TechCrunch
詳細を読む
Character.AIは25日、18歳未満のユーザーに対し、自由形式のAIチャットボット機能の提供を完全に終了しました。代わって、キャラクターと共に物語を作成するインタラクティブ機能「Stories」を導入し、未成年者がより安全かつ構造化された環境でAIと関われるようサービス転換を図っています。
今回の決定背景には、AIコンパニオンへの過度な依存やメンタルヘルスへの悪影響に対する懸念の高まりがあります。実際に同社やOpenAIに対し、ユーザーの自殺に関連する訴訟が提起されており、カリフォルニア州での規制や連邦レベルでの法案提出など、未成年者保護への社会的圧力が増しています。
新機能「Stories」は、予測不能な会話ではなく、ガイド付きのシナリオ体験を提供するものです。CEOのKarandeep Anand氏は「未成年者にとって自由対話は適切な製品ではない」と述べ、この措置を通じて業界における安全基準をリードしたいという強い意志を示しています。