詳細を読む
Wiredの調査によると、Sora 2を使って子どもを含む不穏な動画を作成し、TikTokなどのSNSに投稿するユーザーが現れています。一部のアカウントはおもちゃのCMを装った動画を投稿し、視聴者から強い批判を受けました。
OpenAIの公開報告によると、2025年上半期に全国行方不明・搾取された子どもセンター（NCMEC）に送った児童性的搾取のインシデント報告数は、前年同期比で約80倍に急増しました。これはAI生成コンテンツを通じた児童搾取問題が深刻化していることを示しています。
報告数の急増は一方で検出精度の向上を反映している可能性もありますが、生成AIの汎用性が安全リスクを拡大させていることは否定できません。業界全体でのモデレーション体制の抜本的な強化が急務となっています。