出典：The Verge
詳細を読む
米Googleがモバイル向けニュースフィード「Discover」において、記事のオリジナル見出しをAI生成の要約見出しに置き換える実験を行っていることが判明しました。対象は一部ユーザーに限られますが、生成された見出しの品質が低く、事実誤認やクリックベイト的な表現が含まれるとして批判が集まっています。
多くの事例で、AIは文脈を無視して極端な短縮を行っています。例えば、未発表の製品価格について「価格が判明」と断定したり、複雑な社会問題を「子供を搾取」といった扇情的な表現に変えたりしています。これにより、情報の正確性が損なわれる深刻な事態が生じています。
コンテンツ作成者にとって、見出しは記事の顔であり、内容を正確に伝える責任があります。しかし、Googleがこれを無断で書き換えることで、メディア側が意図しない形で情報が伝わるリスクが生じます。AI生成である旨の表示も目立たないため、読者がメディア側の編集と誤認する可能性も指摘されています。
Googleはこれを「詳細を把握しやすくするためのUI実験」と説明していますが、背景にはユーザーを自社プラットフォーム内に留め置く意図も透けて見えます。生成AIによる検索体験の変革が進む中、プラットフォーマーとコンテンツ提供者の緊張関係は新たな局面を迎えています。