攻撃者がGeminiを10万回超プロンプトしてクローン作成を試みた

Googleは攻撃者がGeminiをクローン化しようとして10万回以上のプロンプトを実行したと発表しました。これは「モデル抽出攻撃（model extraction attack）」と呼ばれる手法で、大量の問い合わせ応答を収集してモデルの動作を再現しようとするものです。

この攻撃の目的は、高コストの商用モデルへのアクセスを迂回して、そのモデルの能力を模倣した低コスト代替品を作成することです。知的財産侵害であると同時にセキュリティリスクでもあります。

Googleは適切な検出・防御メカニズムを持つことを示していますが、攻撃の存在が公になることで他のAI企業に同種の脅威への対策強化を促しています。