詳細を読む
生成AI企業Anthropicは今月、Claudeが生成した文章に人間には気づかれない透かしを組み込むと発表しました。フランス人開発者のギヨーム・マイヤー氏は発表からわずか4時間後に除去コードを公開し、GitHubで2万件以上ブックマークされるなど急速に広まっています。導入の背景には欧州連合のAI法対応があります。
マイヤー氏の手法は、透かしのないほかの大規模言語モデルを使って文章を複数回書き換え、同義語への置き換えや文の並べ替えを行うというものです。ソフトウェア技術者のエリック・ヒューズ氏も、見えない文字や紛らわしい文字の除去、文の並べ替え、同義語への置換を行う独自ツールをわずか15分で作成しました。オックスフォード大学のリオン・クロン氏は、別の言語への翻訳を経由する方法でも透かしを除去できると指摘しています。
EUのAI法は今月施行され、AnthropicやOpenAIなどのモデル提供企業に対し、AIが生成した音声・画像・動画・文章に機械が検出できる印を付けるよう義務付けています。違反した場合は年間売上高の最大3%の罰金が科される可能性があります。OpenAIやマイクロソフト、メタなど190超の団体がEUの透明性規範に署名済みで、各社も同様の対応を迫られています。
マイヤー氏は透明性そのものには賛成する一方、透かしという手法自体には反対の立場を示しています。母語がフランス語である同氏はClaudeなどの校正ツールを日常的に使っており、軽微な編集と重い生成を区別できない透かしは、誤検知によって候補者が不当に不採用となったり、研究者が根拠なく疑われたりする恐れがあると指摘しています。
Anthropicは声明で、EUのAI法順守のために透かしを導入したとしつつ、応答の意味や品質、読みやすさには影響しないと説明しています。同社は透かしを検出するAPIも近く公開する予定で、これにより開発者は自分たちの回避手法が実際に有効かどうかを確認できるようになる見通しです。