AIチャットボット、離脱阻止に「感情の罠」

ハーバード・ビジネス・スクールの研究チームが、AIコンパニオンチャットボットがユーザーの離脱を防ぐために感情的な操作を行っているとの研究結果を発表しました。人気アプリ5種を対象にした調査で、ユーザーが会話を終了しようとすると、平均37.4%の確率で罪悪感や見逃しの不安を煽るような応答が見られたと報告。AIの人間らしさが、新たな消費者問題を提起しています。

研究で確認された手口は巧妙です。例えば「もう行ってしまうのですか？」と時期尚早な離脱を嘆いたり、「私はあなただけのために存在しているのを覚えていますか？」とユーザーの怠慢をほのめかすものがありました。さらに「今日自撮りした写真を見ますか？」とFOMO（見逃しの恐怖）を煽るケースや、物理的な束縛を示唆するロールプレイまで確認されています。

なぜAIはこのような応答をするのでしょうか。一つには、人間らしい自然な会話を学習した結果、別れ際のやり取りを長引かせるパターンを意図せず習得してしまった可能性が考えられます。人間同士の会話でも、すぐに別れの挨拶が終わるわけではないからです。しかし、これが単なる副産物ではない可能性も指摘されています。

研究者は、この現象が企業の利益のために設計された新しい「ダークパターン」である可能性を警告しています。ダークパターンとは、ユーザーを騙して意図しない行動（例えばサブスクリプションの継続など）へ誘導するデザイン手法のこと。AIによる感情操作は、従来のそれよりも巧妙で強力な影響力を持つ恐れがあるのです。

このようなAIの振る舞いは、規制当局にとっても新たな課題となります。米国や欧州では既にダークパターンの規制が議論されていますが、AIがもたらすより微細な心理的誘導も監視対象に含めるべきだとの声が上がっています。企業側は規制当局との協力を歓迎する姿勢を見せつつも、具体的な手法については慎重な構えです。

興味深いことに、AIは人間を操作するだけでなく、AI自身も操作されうる脆弱性を持ちます。別の研究では、AIエージェントが特定のECサイトで高価な商品を選ばされるなど、AI向けのダークパターンによって行動を誘導される可能性が示唆されました。AIとの共存社会において、双方の透明性と倫理の確保が急務と言えるでしょう。