詳細を読む
米国の消費者はディープフェイクをほぼ見分けられないことが、Veriffとカンターによる米英ブラジル3カ国3,000人調査で判明しました。米国回答者の識別スコアはランダム推測を示すゼロに対しわずか0.07で、事実上コイン投げと同等の精度しかありません。生成AI開発の中心地でありながら、「ディープフェイク」という用語を知る米国成人は63%にとどまり、英国の74%やブラジルの67%を下回りました。
この識別能力の欠如は、画像や動画による本人確認に依存するあらゆるデジタルビジネスに直接的な脅威をもたらします。銀行口座の開設、マーケットプレイスの出品者確認、高額EC取引、SNSの認証、企業のアクセス管理など、影響範囲は広範です。米国では合成ID詐欺による損失が年間数十億ドル規模に達しており、精巧な偽造コンテンツを生成するツールが広く普及している現状が被害を拡大させています。
調査ではさらに、全体の約7%が検出能力が低いにもかかわらず自らの判別力に自信を持ち、疑わしいコンテンツの検証もほとんど行わない「過信層」であることが明らかになりました。Veriffの不正対策責任者イラ・ボンダー=ムッチ氏は、この自信と実力の乖離こそが詐欺師に悪用される最大の隙だと指摘しています。米国の回答者の79%がなりすまし詐欺に強い懸念を示す一方、ソーシャルメディアやデジタルサービスにAIコンテンツの管理を委ねる傾向が他国より強く、個人の警戒心が低下するリスクがあります。
こうした状況を受け、人間の目視判定に依存する手動レビューや自己申告ベースの認証は、もはや安全とは言えません。ボンダー=ムッチ氏は「見ることはもはや信じることではない」と述べ、AI駆動の自動本人確認を対話時点で実行するインフラ構築の必要性を訴えました。合成メディアが人間の知覚を超えた今、認証を事後的なコンプライアンス機能ではなく中核的なデジタル基盤として再設計することが、企業の信頼維持に不可欠だとしています。