AIチャットボット、投資詐欺の信頼構築で人間超え

インド、イタリア、オーストラリア、イスラエルの4大学による共同研究チームが7月31日までに、生成AIのチャットボットが詐欺の信頼構築で人間を上回るとする実験結果を公表しました。恋愛感情を装って近づき、最終的に偽の暗号資産投資へ誘い込む「ピッグ・ブッチャリング」と呼ばれる手口の前半部分を再現したところ、AIは人間の詐欺役より高い成功率を示しています。

実験では、事情を知らされずに「被害者役」として集められた22人が、相手の正体を伏せたまま1週間テキストでやり取りしました。その後、詐欺役はアプリのダウンロードかオンラインゲームへの参加を依頼し、被験者が応じるかどうかで説得力を測っています。

結果は明確でした。AIチャットボットの依頼には被験者のほぼ半数が応じた一方、人間の詐欺役に応じたのは5人に1人未満にとどまりました。被験者自身が申告した信頼度の評価でも、AIは人間より明確に高いスコアを得ています。

なぜこの結果が重いのでしょうか。ピッグ・ブッチャリングでは投資話を持ちかけるまでの関係構築が数カ月に及ぶこともあり、ここが最も人手を消費する工程です。その最長工程をAIが肩代わりできるなら、詐欺組織は人員を増やさずに標的を大量にさばけるようになります。

詐欺産業が世界で奪う金額は年間数百億ドル規模とされます。文章の推敲や多言語対応にAIを使う動きはすでに現場で広がっており、今回の研究は会話そのものの自動化が一段進む可能性を示しました。文面が自然で言葉遣いが丁寧であること自体は、もはや相手を信じる根拠にならない。その前提で対策を組み直す時期に来ています。