Reddit、LLMでLLM製スパムを検出し防御

Redditは7月6日、大規模言語モデル（LLM）を活用したスパム対策ツールを導入したと発表しました。皮肉にも、拡散するスパムの多くはLLMで生成されており、同社は「毒をもって毒を制す」形でAI時代の投稿汚染に対抗します。1日あたり2300万件のスパム表示を遮断し、新たなスパム投稿・コメントを毎日約2万5千件検出しているとしています。

従来もSNS各社は自動スパム対策を構築してきましたが、Redditは更新版ツールがより高い割合でスパムを捕捉すると説明します。同社は「古いシステムが見逃していた、極めて巧妙で協調的な偽装行動や人工的な話題づくりのパターンをLLMで捉える」と述べ、1〜3月のユーザーのスパム接触を直前3カ月比で20%削減したと主張しています。

この動きは業界全体の潮流とも重なります。YouTubeやMeta、Instagramは表示を条件にAI生成コンテンツの投稿を認め、TikTokは表示量をユーザーが調整できる機能まで用意しています。AI生成物を高速に判別できれば、ヘイトスピーチなど違反コンテンツの早期発見にもつながる可能性があります。

ただし専門家は、AIによる自動モデレーションだけでは不十分だと繰り返し指摘しています。最も効果的な結果を得るには、人間による審査との併用が欠かせません。経営者やプラットフォーム運営者にとって、AIと人手を組み合わせた運用設計が信頼性確保の鍵となります。