詳細を読む
米サンフランシスコ市のデービッド・チュー市法務官は今週、AppleとGoogleに対し、実在の人物を無断で裸に加工する「ヌード化」アプリ13本をアプリストアから削除するよう求める停止通告（cease-and-desist）を送りました。両社が非同意の性的ディープフェイク画像の売買を「幇助」しているとし、開発者との取引を断つよう要求しています。
チュー氏は、ディープフェイクポルノを作成するサービスの支援を禁じたカリフォルニア州法に両社が違反していると指摘しました。対象アプリはアプリ内課金を用いており、AppleとGoogleはその手数料として数百万ドルを得てきた可能性が高いといいます。
対象アプリは、顔の入れ替えや脱衣によって誰でも簡単に露骨な画像を生成できるものです。チュー氏は被害が主に女性や子どもに及ぶ現状に「心底ぞっとした」と述べ、いじめや脅迫、深刻な精神的被害につながっていると訴えました。ある対象アプリは100万回超ダウンロードされていたといいます。
これを受け、Googleの広報担当は、指摘された5本をポリシー違反で停止し、これまでに数百本の関連アプリを削除、「nudify」などの検索語も制限してきたと説明しました。Appleは指摘された8本のうち3本を削除し、該当する開発者アカウントの停止手続きを進めていると明らかにしています。