東南アジア詐欺拠点がAIモデル大量募集、顔替え通話で被害拡大

東南アジアの詐欺拠点が、ディープフェイク用の「AIフェイスモデル」を大規模に募集していることがWIREDの調査で明らかになりました。Telegramには数十の求人チャネルが存在し、トルコやロシア、ウクライナなど世界各国から応募が殺到しています。

AIモデルの役割は、顔交換ソフトウェアを使ってビデオ通話に出演し、詐欺被害者に「本物の人間」と信じ込ませることです。いわゆる「豚の屠殺」と呼ばれる恋愛詐欺や暗号資産投資詐欺において、被害者が本人確認を求めた際にディープフェイク通話で対応します。

求人広告では1日あたり100〜150件のビデオ通話が求められ、月の休日はわずか1日と半日4回程度です。勤務時間はカンボジア時間で午後10時から午前10時までとされ、「西洋風のアクセント」や中国語能力が優遇条件として挙げられています。

応募者の大半は20代前半の若い女性で、自己紹介動画や写真の提出が求められます。一部の応募者は「ラブスキャム」への従事経験を公然と記載しており、暗号資産投資への勧誘技術を売り込むケースも確認されました。人権団体は、自発的に応募した者でも暴力や性的嫌がらせを受ける危険があると警告しています。

Telegramは詐欺関連活動を規約で禁止しているとしつつも、WIREDが報告した約24のチャネルを削除しなかったとされます。ベトナムのNPO「ChongLuaDao」やHumanity Research Consultancyなどが監視を続けていますが、AIを悪用した詐欺の産業化に歯止めがかかっていないのが現状です。