詳細を読む
ニューヨーク拠点のAI検出スタートアップPangramは7月29日、Menlo Venturesが主導する900万ドルの資金調達を発表しました。同社は、インターネット上に急増するAI生成コンテンツ、いわゆる『AIスロップ』を見分けるツールの需要が今後さらに高まると見込んでいます。あわせて次世代のテキスト検出モデル『Pangram 4』と、画像検出モデル『Pangram Image』も投入しました。
新しいテキスト検出モデルは、AIの支援を含む文章や人間とAIが混在した文章を99%超の精度で判別できるとしています。文章を人間らしく書き換える『ヒューマナイザー』も、より容易に見抜けるといいます。画像検出モデルは現在リサーチプレビュー段階で、数週間内に幅広く公開する予定です。
検出の仕組みは、数千万件の既知の人間文書で学習した大規模な機械学習モデルです。各文書について話題や長さ、口調を模した『合成ミラー』をフロンティアLLMに生成させ、両者の文体差を学ばせています。スタンフォード大出身で共同創業者のMax Spero氏は、透かしやメタデータに頼らず判定できる点を強調します。
利用は月額20ドルのサブスクリプションのほか、XやLinkedInなどの投稿をリアルタイムで判定するChrome拡張機能でも提供します。APIも用意し、Substackが著者のAI利用を読者に示す機能に採用したほか、Quoraや大学、出版社なども顧客に名を連ねます。競合にはGPTZeroやOriginality.aiなどがひしめきます。
背景には、AIの誤用に対する制度的な反発もあります。論文アーカイブのarXivは今年、LLMの出力を著者が確認しなかった証拠がある投稿に対し、1年間の投稿禁止を科す方針を導入しました。Spero氏は、人間が発する情報を積極的に選ばなければAIにかき消されると述べ、スロップに抗する仕組みの必要性を訴えています。