出典：OpenAI公式
詳細を読む
OpenAIは10月30日、暴力防止などの取り組みを説明する「コミュニティ安全報告書」の発行と、ChatGPTの暴力関連回答および未成年者向け武器情報の制限強化を発表しました。報告書は安全対策の仕組みや匿名化した事例、関連データを示し、初回を2027年初めに公表する予定です。
報告書は2026年後半を対象に、以後は半年ごとに更新します。同社は2026年第3四半期に、差し迫った暴力の脅威をめぐり法執行機関へ200件超の照会を行ったとしています。
ChatGPTは今後、過去の大規模襲撃について、使用された武器や入手方法などの詳細な再現、被害規模の比較を制限します。年齢や質問理由を問わず適用し、事件の理解や被害者・地域社会への影響、予防や危険兆候の把握に役立つ質問には応じる方針です。
18歳未満と推定される利用者には、暴力の意図が見えない場合も、武器や警備システムに関する実用情報を制限します。年齢推定を強化し、成人が誤って未成年向け設定になった場合は、年齢確認を経て追加保護を解除できると説明しました。
会話に暴力への固執や他者を深刻に傷つける兆候が表れた場合、ChatGPTが会話を自動終了する機能も開発中です。同じ理由で複数回終了した場合は、アカウントを一時停止する可能性があります。