詳細を読む
中国の国家インターネット情報弁公室などは7月15日から、人間らしい人格や思考、話し方を装い、継続的な感情交流を提供するAIサービスを対象に新規制を導入しました。未成年との仮想的な親密関係を禁じ、成人には2時間ごとに相手が人間ではないと知らせるなど、感情依存を事前に防ぐ仕組みを事業者に求めています。
規制は、AIが有害行動を促したり、利用者に過度に迎合したり、人間同士の関係を遠ざけたりしない設計を要求します。利用時間を抑える働きかけに加え、高齢者向けには追加の安全措置も義務づけました。
施行前には、アリババ、ByteDance、Tencentが汎用チャットボットを恋人や友人のように設定する機能を停止しました。3社のサービスは合計5億人超が利用しており、突然の変更に喪失感を訴える投稿が中国のSNSで相次ぎました。
AIコンパニオンを続ける事業者は、年齢確認などの安全策を導入しています。一方、顧客対応、業務支援、教育向けAIは継続的な感情的つながりを生まないとの前提から規制対象外で、AI活用促進とリスク抑制の線引きが示されました。
専門家は、中国の制度をこの分野で世界で最も厳格かつ包括的な規制と評価しています。欧州連合は欺瞞や操作による有害行為を禁じ、米国は全国一律の制度がなく州ごとの対応が中心なのに対し、中国は被害発生前の予防を重視します。ただし、結婚や出産への忌避など、人々がAIとの関係を求める社会的背景までは解消しないとの指摘もあります。