出典：Ars Technica
詳細を読む
カナダ・ニューブランズウィック州議会で先月、進歩保守党の州議員ビル・オリバー氏が演説の最中に、大規模言語モデル（LLM）が生成したとみられる指示文をそのまま読み上げる失態を演じました。問題の動画は今週になってRedditやThreadsなどのSNSで拡散し、カナダ放送協会（CBC）など主要メディアも報じる事態となっています。
オリバー氏は「擁護機関の設置に伴う危険の一つは、市民が実際に与えられた権限を超える期待を抱きがちなことだ」と述べた後、続けて「短い箇条書きではなく議会演説らしく自然に流れる、より整えた表現がこちらです」と口にしました。これはLLMが文体の代替案を提示する際に典型的に用いる言い回しであり、プロンプトへの応答文がそのまま原稿に残っていたことをうかがわせます。
当初この奇妙な読み上げはほとんど注目されませんでしたが、今週に入って動画がRedditやThreadsで広がり、CBCやトロント・スターといった主流メディアが取り上げました。トロント・スターは今回の一件を、職務をAIに委ねることをいとわないエリート層と、それを不快に感じる大衆との間に広がる社会の分断の表れだと論じています。
AIが生成した文章には、利用者が消し忘れた指示文の痕跡が残ることが珍しくありません。公的な発言や文書でこうした痕跡が露見すれば、発信者の信頼性は大きく損なわれます。生成AIを業務に取り入れる経営者やリーダーにとっても、出力をそのまま使わず必ず検証する工程の重要性を改めて突きつける事例と言えるでしょう。