詳細を読む
AI検出企業Copyleaksの調査により、TikTok上でTaylor SwiftやRihanna、Kim Kardashianらの著名人を模倣したディープフェイク広告が複数確認されました。これらの広告は赤絨毯やトーク番組の実映像をAIで加工し、架空の報酬プログラム「TikTok Pay」への登録を促す内容で、クリックしたユーザーは第三者サイトに誘導され個人情報の入力を求められます。
偽広告ではSwiftがジミー・ファロンの番組に出演した際の映像が改変され、「動画を見て意見を送るだけで報酬がもらえる」と語る構成になっています。誘導先のサイトにはTikTokのロゴが表示されていますが、実際にはAIプラットフォームLovableで構築された無関係のページであることが判明しています。
こうした状況を受け、Swift は先週、自身の声と肖像を守るため3件の商標出願を行いました。出願対象にはエラズ・ツアーでの写真のほか、「Hey, it's Taylor Swift」「Hey, it's Taylor」という音声フレーズが含まれます。今月にはオハイオ州の男がディープフェイクを犯罪化する連邦法で初の有罪判決を受けており、法整備も進みつつあります。
ディープフェイク詐欺はTikTokに限った問題ではありません。非営利団体Consumer Federation of Americaは先週、Metaが詐欺広告の取り締まりを怠り利益を得ていると提訴しました。米連邦取引委員会（FTC）も4月28日の報告で、SNS経由の詐欺被害が急増しておりFacebookが金銭被害額で最多だと指摘しています。プラットフォーム各社は対策を強化していますが、日々巧妙化する偽コンテンツへの対応は追いついていないのが現状です。