出典：Ars Technica
詳細を読む
米Googleは、AI生成コンテンツを識別するための電子透かし技術「SynthID」が、圧縮や編集を経ても消えにくい高い耐久性を備えることを明らかにしました。OpenAIやNvidiaなど他社も導入を始めますが、透かしだけでAIによる偽情報を防げるわけではないと指摘されています。
AIコンテンツのラベル付けには、不可視の電子透かしと、C2PAのようなメタデータ方式の2つがあります。C2PAは暗号技術で改ざんを防げる一方、スクリーンショットや再保存で簡単に取り除かれてしまう弱点を抱えています。
これに対しSynthIDは、画像や動画の画素、音声の波形そのものに情報を埋め込みます。GoogleのDeepMind研究者Pushmeet Kohli氏は、圧縮やリサイズ、編集で劣化した使い古されたミームでも透かしが残るよう、耐久性の確保に多大な労力を注いだと説明します。
背景には、AI生成物の爆発的な増加があります。人類が15億枚の画像を生み出すのにカメラ発明から149年かかったのに対し、生成AIはわずか18カ月で同数に達したとされ、Googleのツールだけでも生成物は1000億件を超えました。同社はOpenAIやRunway、Nvidiaなどとの連携で透かしの普及を狙います。
ただし、透かしはすべての課題を解決するわけではありません。SynthIDに対応しないAIで作られた画像には透かしがなく、悪意ある利用者が除去を試みる可能性も残ります。AIコンテンツの真偽の見分けは、技術の普及と回避策との終わりなき攻防になりかねないのが実情です。