詳細を読む
Googleは6月12日、中国を拠点とするサイバー犯罪集団Outsider Enterpriseを提訴したと発表しました。同集団はGoogleの生成AI「Gemini」を悪用して銀行や政府機関を装う偽サイトを大量生成し、数十万人から数百万ドル規模の金銭をだまし取ったとされます。GoogleはFBIや通信大手3社と連携し、その犯罪インフラの解体を目指します。
問題の中核は、技術力のない者でも詐欺を実行できる「フィッシング・アズ・ア・サービス」です。同集団は週88ドルや月200ドルでツールを販売し、約290種類のテンプレートを用意していました。Geminiに偽サイトのコードを生成させる手口を、Telegram上で公然と共有していたといいます。
被害の規模は深刻です。Googleによると、偽サイトは9000件、不正なURLは100万件以上に達し、Android利用者には2週間で250万通の詐欺SMSが送られました。FBIは2023年7月以降、約387万枚のクレジットカード情報が盗まれ、被害額は推定19億ドルに上ると説明しています。
Googleは「AIを使った詐欺にはAIで対抗する」と強調します。Androidの端末上での検知機能は、不審なメッセージを月100億件遮断しているといいます。AT&T;、Verizon、T-Mobileの通信3社も、詐欺SMSの送信前ブロックで協力しています。
ただ訴訟だけでは根絶できないとGoogleは認めます。そこで詐欺対策の超党派7法案を支持し、保護を恒久化する立法を働きかけています。AIが詐欺を高度化させるなか、企業・政府・捜査機関が連携する「集団防衛」の枠組みが、今後の鍵を握りそうです。