出典：OpenAI公式
詳細を読む
OpenAIは動画生成AI「Sora 2」および専用アプリにおける安全対策の全容を公開しました。生成されるすべての動画に業界標準のC2PAメタデータと可視・不可視の透かしを埋め込み、AI生成コンテンツの出所を明確にします。
肖像権の保護では、写真からの動画生成時にユーザーが被写体の同意を得ていることを宣誓する仕組みを導入しました。特に子どもや若年層が含まれる画像には、通常より厳格なガードレールとモデレーションが適用されます。
独自の「キャラクター」機能により、自身の外見や声の使用を完全に管理できます。アクセス権の付与・取消はユーザーが随時行え、他者が作成した下書き動画も確認・削除・通報が可能です。公人の描写はキャラクター機能経由のみに制限されています。
未成年者向けには、フィードから不適切コンテンツを自動除外し、大人からのメッセージ開始を遮断します。保護者はChatGPTの管理画面からDMの送受信やフィードのパーソナライズ設定を制御でき、連続スクロールにも初期上限が設けられています。
有害コンテンツ対策としては、生成前のプロンプト検査と出力の多層スキャンを組み合わせ、性的素材やテロプロパガンダ、自傷促進を遮断します。音声領域では生成された音声の書き起こしを自動検査し、存命アーティストや既存楽曲の模倣を阻止する仕組みも整備されています。