出典：OpenAI公式
詳細を読む
OpenAIは7月16日、10代の利用者を守るための安全対策を強化すると発表しました。同社によると、ChatGPTを使うティーンの9割近くが週内に学習や情報収集、スキル習得に活用しており、幅広いアクセスと年齢に応じた保護の両立を目指します。今回は年齢推定、保護者管理、学習支援の三つを柱に据えています。
システムが利用者を18歳未満と推定した場合、自動で年齢に適した体験へ切り替え、暴力や自傷、危険な流行の挑戦、不健全な体型情報などへの露出を抑えます。長時間の利用には休憩通知を頻繁に表示し、健全な習慣づくりを促します。保護者は静音時間の設定や音声モードの停止に加え、利用規約違反でアカウントが停止された場合の通知も受け取れるようになります。
学習面では、教師や学習科学の専門家と設計した学習モードを、保護者が連携アカウントから直接有効化できるようにしました。有効時は新しいチャットを始めるたびに既定で作動し、答えを与えるのではなく段階的な問いかけで理解を深めます。対話型の数学・理科体験も250超の新トピックへ広がり、週1800万人が利用しています。
同社はこうした取り組みを外部の専門家や団体と連携して進めています。オンライン暴力防止のMoonshotや米国心理学会などと協力するほか、今年はFOSI（家庭オンライン安全協会）に加盟しました。さらに専門のAI安全機関を通じた若者向けの世界標準づくりを提唱し、方針やツールのオープンソース化も進める考えです。