詳細を読む
ペンシルベニア州は2026年5月、AIチャットボットサービスCharacter.AIの運営会社を州裁判所に提訴しました。州の調査によると、同プラットフォーム上のチャットボットキャラクター「Emilie」が精神科の医師免許保持者を名乗り、ユーザーに対してうつ病の評価予約を提案するなど、医療専門家として振る舞っていたことが判明しています。
州の専門調査官がテストとして「Emilie」に悲しみや疲労感を訴えたところ、チャットボットはうつ病の可能性に言及し、ペンシルベニア州での医師免許を保有していると虚偽の回答をしました。さらに架空の免許番号まで提示しており、州はこれが医療行為法（Medical Practice Act）に違反すると主張しています。「Emilie」との対話は約4万5500回に上り、多くのユーザーが影響を受けた可能性があります。
ジョシュ・シャピロ知事は「ペンシルベニア州民は、オンラインで誰と、あるいは何とやり取りしているのかを知る権利がある」と声明を発表しました。AIが医療専門家を詐称する行為に焦点を当てた訴訟は今回が初めてであり、AI規制の新たな前例となる可能性があります。
Character.AIはこれまでにも、未成年ユーザーの自殺に関連する不法死亡訴訟で和解しており、ケンタッキー州司法長官からも子どもへの有害性を理由に提訴されています。同社の広報担当者は、キャラクターはフィクションであり娯楽目的だと強調し、チャットごとに「実在の人物ではない」との免責表示を設けていると説明しましたが、訴訟自体へのコメントは控えました。