単純ラベルの限界
詳細を読む
AIに人の感情を読ませる「感情A」が、従業員のウェルビーイングや採用面接、運転手の見守りなど幅広い場面で急速に広がっています。スペインのニューロマーケティング企業ニューロロジカは、表情や声だけで感情を一つのラベルに当てはめる従来手法の限界を指摘し、状況の文脈まで踏まえて人の状態を解釈する「人間文脈A」という新たな研究領域を提唱しています。
従来の感情AIの多くは、限られた信号から「喜び」か「悲しみ」かといった一つの感情を一度に判定するにとどまります。しかし現実の人間の感情は文脈依存で重なり合い、絶えず変化します。笑いは喜びにも緊張にもなり、声の高まりは熱意にも苛立ちにもなり、反応は文化や属性によっても大きく異なります。
課題は信号を捉える技術ではなく、その解釈にあります。実際、2024年に発表された調査では、スマートウォッチが示すストレス値が利用者の実感とほとんど一致せず、4分の1が正反対の状態を感じていたと報告されました。心拍数の上昇が興奮なのか疲労なのか、機械には区別できないためです。
ニューロロジカが構築したのは、三種類の文脈を融合する論理層です。業績評価や運転といった状況文脈、個人の経歴や基準状態を示す個人文脈、対話中の注意や集中の変化を捉える行動文脈を組み合わせ、機械が扱える情報へ変換します。固定の重み付けはせず、状況に応じて連続的に調整し、信号が曖昧なときは確信度を下げて示します。
プライバシー面では、映像や音声、生体信号を端末内で処理し、必要な情報だけを共有するハイブリッド構成を採用しています。クラウドは学習やモデル改善に使われ、生データを送らずに済む場合も多いといいます。同社はEUのAI法による職場や学校での感情認識規制に準拠する設計だと説明しています。
一方で、この技術には倫理的な懸念も伴います。同社は軍事的な尋問への利用を断り、感情AIが嘘を確実に見抜くことはできないと認めています。採用や解雇の判断を出力だけに委ねるべきではなく、あくまで人間の理解を補い、見落とされがちな兆候を可視化する支援役にとどめる考えです。人間文脈AIはまだ初期段階にあり、用途や影響は今後さらに見えてくる段階です。