顔認識AI、顔貌の違いで認証できず

顔認識AIが、生まれつきの疾患やあざなど顔貌に違いを持つ人々を正しく認識できず、日常生活に深刻な支障をきたしています。運転免許の更新や金融サービスへのアクセスが拒否される事例が米国で相次いでおり、AI開発における多様性の欠如が浮き彫りになりました。これは技術がもたらす新たな社会的障壁と言えるでしょう。

米国コネチカット州では、ある女性が運転免許証の顔写真更新の際、AIシステムに何度も拒否されました。彼女はフリーマン・シェルドン症候群という顔の筋肉に影響がある疾患を抱えており、機械に「人間ではない」と判断されたかのような屈辱的な体験を語っています。

この問題は一部の特例ではありません。顔の相違や変形を抱える人々は世界で1億人以上と推定されます。彼らは空港の自動化ゲートやスマートフォンのロック解除、金融アプリの本人確認など、社会のデジタル化が進むほど多くの場面で困難に直面しています。

なぜこのような事態が起きるのでしょうか。原因は、AIモデルの学習データにあります。健常者の顔データに偏っており、顔貌の多様性が反映されていないのです。結果として、標準から外れる特徴を持つ顔をシステムが「異常」と判断し、認証プロセスで弾いてしまいます。

技術的な不具合は、当事者に深い精神的苦痛を与えます。「機械に存在を否定される」という体験は、尊厳を傷つけるものです。専門家は、AIが既存の社会的な偏見を増幅させていると警鐘を鳴らしており、これは単なる技術課題ではなく人権問題でもあります。

さらに問題を深刻化させているのが、認証失敗時の代替手段の欠如です。多くのサービスでオンラインでの顔認証が唯一の手段となりつつあり、利用者は「技術の迷宮」に閉じ込められてしまいます。企業側の対応も遅く、問題解決の優先順位が低いのが現状です。

この問題は、AIを開発・導入するすべての企業にとって他人事ではありません。インクルーシブな設計思想を持ち、開発初期段階から多様な人々を巻き込むことが不可欠です。AIの恩恵を誰もが享受できる社会を実現するため、今こそ技術倫理が問われています。