Anthropic、Claude透かしの仕組みを詳細公開

Anthropicは8月15日、チャットボットClaudeが生成するテキストへの透かし技術について、詳細を説明するブログ記事を公開しました。同社は今週初め、EU AI法の透明性規範に準拠するため透かし導入を発表しており、今回はその技術的な仕組みや編集による除去可否などをQ&A;形式で解説しています。

透かしの基本的な仕組みについて、Anthropicは低確率な言葉選びを利用すると説明しています。例えば天気を表す際に「overcast」と「grey」のどちらを選ぶかといった些細な判断にパターンを埋め込み、読者には気づかれない形で符号化します。専用の鍵を持つ側だけがこのパターンを検知できる仕組みで、出力の質には一切影響しないとしています。

具体的な技術方式としては、Google DeepMindが2024年に発表したSynthID-Text方式を採用すると明らかにしました。あわせて、透かしを検知するための専用APIも今後公開する予定であることを明らかにしています。なお、この透かしは文章の言い回しの癖からAI生成を推測する既存の検出サービスとは仕組みが根本的に異なるとも説明しました。

編集によって透かしを消せるかという疑問についても回答しています。軽い修正であればほとんどの単語が人間の手によるものとして残るため、透かしはほぼそのまま残存するとのことです。一方、すべての単語を書き換えるような全面的なリライトを行えば、透かしは完全に消えるとしています。

プログラムコードへの影響についても言及しました。コードは正しく動作させる必要があり、言葉選びの自由度が低いため、通常のテキストに比べて透かしが付きにくいとのことです。ただし、コメントなど表現の選択肢がある部分には透かしを適用できるとしています。

今回の透かし導入方針をめぐっては、SNS上で賛否が分かれています。一部のユーザーからは不正利用の温床になるとの懸念が示される一方、透明性向上を歓迎する声もあります。Anthropicは、他の主要なAIモデル開発企業も同じ行動規範に署名しており、それぞれ独自の透かしを導入する見通しだとも述べています。