AI生成論文の増加に科学出版の審査が直面

AI生成の文章や画像が広がるなか、科学出版の査読機関やウィキペディアの編集者は、信頼できる知識をどう守るかという課題に直面しています。IEEE Spectrumは、AIで作った論文を投稿する実験を通じ、生成物が簡単にもっともらしく見える一方、検出側との競争が続いていると報じました。

記事で紹介された実験では、研究者が実験を実行して論文を書くようAIに指示し、ほとんど手を加えず投稿しました。現在は人による審査と研究公正チェックの仕組みが、無料ツールを使った不正に対応できています。

ただし、より高度な大規模言語モデルは、無料版に見られた単純な誤りを減らしています。生成物がさらに自然になるほど、出版社は検出手段を更新し続ける必要があり、審査負担も増す可能性があります。

ウィキペディアでも、ボランティア団体がAI生成の記述を見つけて削除する活動をしています。商業出版社と同じ問題に直面しながら、使える人員やツールは限られており、編集者は人間が作った知識基盤を保てる期間を懸念しています。

科学記録や基本的な事実への信頼が揺らげば、知識を整理する機関そのものへの信頼も損なわれます。AIがAI向けに論文を書く未来を前に、検出技術だけでなく、人間が知識を確認し、共有する仕組みをどう維持するかが問われています。