MIT教授、AI市民対話に人の説明責任を提言

2026年10月13日公開のMIT Newsインタビューで、MIT教授のDeb Roy氏は、AIが作った公共意見にも発言を引き受けて説明できる人間が必要だと提言しました。生成文が自然で個別化されるほど偽の大量投稿を見抜きにくくなり、政策への市民参加と信頼を損なうため、AIの利用を認めつつ無責任な発信を防ぐ設計を求めています。

Roy氏は、2017年に連邦通信委員会へ届いたネット中立性規則を巡る意見2200万件超のうち、約1800万件が偽物だった事例を挙げます。当時は定型文や重複表現から不正を追えましたが、大規模言語モデルは投稿ごとに異なる自然な文章を作れるため、実在する人の意思かを判別しにくくなります。

提案の中核は、発言する資格や利害を持つ人が言葉の背後にいて、内容を問われたときに答えられる状態です。実名の全面公開は必要なく、機関が別々の適格な人の発言だと確認し、告発など影響の大きい内容では信頼できる仲介者が話者を把握する仕組みを想定します。

Roy氏は、著者を帰属できること、生成過程を分解して検査できること、出所情報を基盤に組み込むこと、発言資格を少数へ集中させず広げることの四原則を示しました。AIは草案作成、要約、論点抽出を担えますが、利害を持つ人が内容を自分の言葉として採用し、最終的に答える必要があります。

MITの建設的コミュニケーションセンターでは、AIが会話から論点を抽出しても、参加者が各段階で確認し、修正や却下ができる手順を採用しています。試作システムVoiceTraceは、要約や提言を元の発言へ結び付け、技術の速度ではなく、当事者との関与を通じて得た信頼に合わせて導入を進める考え方を具体化します。