出典：TechCrunch
詳細を読む
米フードデリバリー大手DoorDashは、ドライバーがAI生成の写真を使って配達完了を偽装していたとされる事例を確認し、当該アカウントを停止したと発表した。生成AIの悪用が現実の業務詐欺に使われた事例として注目を集めている。
手口としては、実際には配達していない場所でAIで生成した「配達完了写真」を提出するというものだ。DoorDashの配達確認システムは写真の真偽を確認する機能が不十分であり、ビジュアル証拠の改ざんに対して脆弱だったことが明らかになった。
この事件はRedditでバイラルとなり、その後Nexstarが取材してDoorDashが正式に確認する流れとなった。ソーシャルメディアでの告発がプラットフォームを動かすケースとして機能した。
技術的な対策として、AIウォーターマーク検出・GPSデータとの照合強化・リアルタイム位置確認の義務化などが検討される。しかし生成AI技術が進化するにつれて、これらの対策との「猫とねずみのゲーム」が続くことも予想される。
Uber Eats・Instacart・GrubHubなど他のプラットフォームも同様の脆弱性を抱えており、業界全体での本人確認・配達確認プロセスの強化が急務となっている。AI生成コンテンツの普及が、デジタルエビデンスへの信頼を根本から揺るがす時代が来ている。