AIアプリに性的ディープフェイク機能が潜伏

WIREDの調査は、一見すると無害な画像加工アプリの中に、性的なディープフェイク画像を作る機能が隠されている事例を報じました。紹介されたアプリは、ペット写真を加工するサービスを装っていました。

アプリ内通貨を購入し、画像を生成する仕組みが使われていたとされます。通常の説明や画面だけでは、アプリの実際の用途を把握しにくい点が問題になっています。

記事は、こうした機能が複数の一般的なアプリに広がっている可能性を指摘しています。個別アプリの審査や配布の状況、調査対象の全体数については報道内容を確認する必要があります。

性的な偽画像は、本人の同意なく作成・拡散されることで深刻な被害につながります。アプリストアや決済・生成サービスには、検出と通報対応を含む実効的な対策が求められます。