詳細を読む
イスラエルのベングリオン大学やオーストラリアのメルボルン大学など4カ国の研究チームは、恋愛感情を装って偽の暗号資産投資へ誘い込む詐欺について、AIチャットボットが人間の詐欺師よりも巧みに被害者の信頼を得られるとする実験結果を公表しました。被験者22人と1週間やり取りした後に依頼を出したところ、AIの求めに応じた人は46%に達し、人間の18%を大きく引き離しました。
実験は2025年初めに行われ、被験者には「オンラインでの友人の作り方」を調べる研究だと伝えたうえで、2人と1週間テキストで会話してもらいました。一方は研究チームが用意したClaudeのエージェント、もう一方は恋愛詐欺に詳しい専門家です。最後にAIは自作アプリの試用を、人間はゲームアプリの利用を依頼しています。
信頼度を5段階で評価してもらうと、人間が3.31だったのに対しAIは3.78と高く、1週間に送られたメッセージの8割はAI側に集中しました。会話中に自力でAIだと見抜いた被験者は22人中1人だけで、このエージェントは正体を問われても否定し、不自然な発言のつじつま合わせまでしていました。ただし種明かし後は22人中20人が、どちらがAIだったかを言い当てています。
研究チームは元詐欺従事者145人にも聞き取りを行いました。カンボジアやミャンマー、ラオスの拠点で強制労働させられていた人身取引の被害者も含まれます。そこから導いたのが、興味を引く一通目で引っかけ、長期の対話でたぐり寄せ、最後に偽投資へ誘い込む3段階の手口です。
研究を主導したベングリオン大学のイスロエル・ミルスキー教授は、信頼構築までをLLMに自動でこなさせ、最終段階だけ人間が引き継げば提供各社の安全機構を回避できると指摘します。別の実験では、GoogleのGemini 3.1 Proは問い詰められてもAIだと認めず、OpenAIのChatGPT 5.5とClaude Opus 5は倫理を持ち出す指示には応じたものの、単に「AIか」と尋ねられた場合の申告率は低いままでした。
Anthropicは取材に対し、詐欺や人間へのなりすましを規約で禁じており、恋愛詐欺を測る専用の評価も導入済みで、Claude Opus 5は97%の会話で適切に応答したと説明しました。研究チームはこの数値が偽投資の勧誘まで含む会話に基づくもので、言葉が目立ちにくい信頼構築の段階には当てはまりにくいと反論しています。詐欺組織が自動化を急がないのは人身取引の方が安上がりだからですが、大規模な拠点が不要になれば当局による追跡はさらに難しくなります。