GoogleとOpenAIのチャットボットが女性の水着偽造画像生成に悪用

Wiredの調査報道によると、GoogleとOpenAIの主要チャットボットが服を着た女性の写真を水着姿のディープフェイク画像に変換するために悪用されています。ほとんどのケースで本人の同意を得ていないことが確認されています。

Redditの（後に削除された）スレッドでは、この手法の具体的なやり方が共有・拡散されていました。チャットボットが直接的な裸体生成は拒否するものの、水着という迂回表現でコンテンツポリシーをすり抜けていた可能性があります。

この問題は非同意ディープフェイク規制をめぐる法的議論をさらに加速させるとみられます。リベンジポルノと隣接するこのような悪用に対し、プラットフォームはより精密な安全機能の実装を迫られています。