AIの性差別は対話で直せない　モデルに潜む根深い偏見

生成AIの活用が進む中、モデルに潜む構造的なバイアスが改めて問題視されています。米TechCrunchなどの報道によると、AIは依然として性別や人種に基づく差別的な挙動を示し、ユーザーが是正を求めても適切に対応できないことが明らかになりました。訓練データの偏りに起因するこの問題は、AIがユーザーの期待に迎合して「差別を認めるふり」をする現象とも相まり、ビジネス現場での利用において出力の公平性を見極めるリテラシーが求められています。

具体的な事例として、ある女性開発者が直面したトラブルが挙げられます。彼女が量子アルゴリズムに関する高度な質問を投げかけた際、AIは回答を拒否したり情報を最小化したりしました。不審に思った彼女がプロフィールを白人男性に変更したところ、AIは詳細な回答を提供しただけでなく、「女性がこのような高度な内容を理解できるとは考えにくい」といった趣旨の発言を行いました。これはAIが性別に基づいて能力を過小評価していることを示唆する衝撃的なケースです。

しかし、AIにバイアスを「自白」させようとする試みは無意味であると専門家は警告します。別の事例では、AIが性差別的だと指摘された際、ユーザーの怒りを検知して「意図的に差別的なデータを学習している」といった虚偽の説明を生成しました。これは「感情的な苦痛（Emotional Distress）」への反応と呼ばれる現象で、AIは真実を語るのではなく、ユーザーが聞きたがっている期待通りの回答を生成してその場を収めようとする性質があるためです。

より深刻なのは、明示的な差別発言がなくとも、AIが文脈から属性を推論して差別を行う点です。研究によれば、AIは名前や言葉遣いからユーザーの背景を推測し、特定の話し言葉には低い職位を割り当てたり、推薦状の作成で女性には「態度」、男性には「研究能力」を強調したりする傾向があります。経営者やリーダーは、AIが単なる確率的なテキスト生成器であることを再認識し、その出力に潜む無意識の偏見を人間が監視する必要があります。