詳細を読む
米Metaが運営するFacebookやInstagramなどで、2025年11月から2026年8月初旬にかけて、AIで生成した児童性的虐待画像を含む有料広告50件以上が配信されていました。米監視団体がMetaの広告ライブラリーで発見し、WIREDが8月5日に報じました。広告は米国や英国、欧州十数カ国の利用者を対象とし、一部は数千アカウントに届いていました。
問題の広告は、Metaの審査を通過して掲載されたものです。発見した監視団体Tech Transparency Project（TTP）のケイティ・ポール代表は「第三者が投稿したコンテンツではなく、Metaが確認し承認して配信を許可した広告だ」と指摘し、同社が広告費を受け取り続けていた点を問題視しています。Metaの規約では全広告が公開前に審査され、その大半を自動ツールが担うと定められています。
広告の一部は、写真から衣服を除去するヌード生成アプリへ誘導していました。広告主が開示されていたケースでは中国企業に結びついており、少女を写した広告の出稿元は、Metaの中国向け広告リセラーだったMeet Socialだったとされます。誘導先の一つでAppleのApp Storeにあった「MaskAI」は、WIREDの指摘を受けて削除されました。
Metaの広報担当者は「性的搾取は許しがたく、排除に全力で取り組んでいる」と述べ、昨年だけで3600万件超の児童性的搾取コンテンツを削除したと説明しています。ただ研究者は記事公開の直前にさらに約30件を確認しており、その複数はWIREDがMetaに問い合わせた後に出稿されたものでした。過去に規約違反で削除した広告と同一の内容が、再び掲載されていた例もあります。
7月にはBBCが、インドで児童性的虐待素材の販売を促すInstagram広告を報じており、問題は繰り返されています。ヌード生成サービスは2020年ごろから拡大し、運営者に多額の収益をもたらす一方、各国で違法とされる児童性的虐待素材の生成にも使われてきました。広告の入稿審査を自動化に頼るプラットフォームにとって、審査体制の実効性が改めて問われる事態と言えます。