出典：The Verge
詳細を読む
Anthropicは17日、Claudeが生成する文章に組み込む見えない透かし技術の仕組みを説明しました。同社はGoogle DeepMind開発のオープンソース技術SynthID-Textを応用した独自版を採用し、欧州連合のAI法が求める合成コンテンツの識別義務に対応する狙いです。透かしは文章の意味や品質、料金に影響を与えないとしています。
具体的には、文章生成時に複数の候補語が同程度自然な場合、通常は乱数で決定していた選択を、暗号鍵と直前の単語列に基づく擬似乱数で決めます。例えば「今日の天気は寒くて」に続く単語が「曇り」か「どんより」かのように、意味がほぼ同じ複数語から選ぶ場面が対象です。読者が読んでも違和感はなく、専用の鍵を持つ者だけがそのパターンを検知できます。
この文章透かしは、Claudeが処理する画像向けのC2PA対応と並び、EU AI法が定める合成音声・画像・動画・文章への機械可読マークの義務化に対応するものです。Anthropicは、透かしの導入によってClaudeの利用料金が上がることや、出力内容の品質に実質的な影響が生じることはないと説明しています。
EUの透明性規則は他の主要AI開発企業にも及び、Claudeだけが対象ではありません。GoogleのチャットボットGeminiは2024年からSynthID-Textを採用済みで、OpenAIはChatGPTの文章透かし計画を詳細に示していないものの、同法の適用対象になるとみられています。