詳細を読む
米The Vergeの特集記事によると、ポップカルチャーのファンコミュニティにおいて、AIディープフェイク技術を用いた画像の生成と拡散が急速に収益化されています。アリアナ・グランデら著名人が明確に拒絶しているにもかかわらず、ファンはAIツールを駆使して「推し」の肖像を操作し、SNSでの影響力拡大や金銭的利益を追求しています。この現象は、AI技術の民主化がもたらす新たな倫理的・法的リスクを浮き彫りにしています。
この背景には、SNSプラットフォームにおける「アテンション・エコノミー」の歪みがあります。特にX（旧Twitter）では、認証済みユーザー同士の交流が収益を生む仕組みがあり、これが過激なAI生成コンテンツによる「エンゲージメント・ファーミング（反応稼ぎ）」を助長しています。一部のファンは、注目を集めるためなら、本人を性的に侮辱したり、事実無根のミームを作成したりすることさえ厭わず、その結果として偽情報が拡散される事態を招いています。
OpenAIの「Sora」やMetaのAI Studioといった最新ツールの登場が、事態をさらに複雑化させています。本来はクリエイティブな表現のために開発されたこれらの技術が、有名人の許可なく「AIクローン」やチャットボットを作成するために悪用されています。プラットフォーム側は事後的な削除対応に追われていますが、一度拡散したコンテンツを完全に消去することは極めて困難であり、技術の進化に規制やモラルが追いついていないのが実情です。
さらに深刻なのは、デジタルネイティブである若年層のファンによる、有名人の「コンテンツ化」です。記事では11歳の少女が有名人のAIチャットボットを作成し、不適切な会話へ誘導される事例も報告されています。生身の人間としての尊厳よりも、自分の意のままに操れる対象としての需要が優先される傾向は、将来的な著作権や肖像権の在り方に大きな影を落としています。ビジネスリーダーは、AIが生み出すこうした負の側面を理解し、技術利用におけるガバナンスを再考する必要があります。