出典：Ars Technica
詳細を読む
米国の国家安全保障局（NSA）、サイバーセキュリティ・社会基盤安全保障庁（CISA）、連邦捜査局（FBI）は9月8日、DeepSeekやAlibabaなど中国のAI企業6社が、少なくとも2024年末から米国の先端AIモデルを大規模に蒸留していたと共同発表で主張しました。各社は中国政府の認識下で能力を抽出し、その結果、開発期間を縮め、訓練費を抑えた可能性があるとみています。
名指しされたのはDeepSeek、Moonshot AI、Alibaba、MiniMax、StepFun、Z.AIです。対象にはClaude、GPT、Gemini、Grokの各派生モデルが含まれるとされ、当局は制限された独自機能や能力の抽出が米国のAI競争上の優位を脅かすと訴えました。
一つ目の手口は、偽アカウントを大量購入してモデル推論APIを悪用するものです。正規利用者ではないアカウント群が同一または類似のプロンプトを高度に連携して送り、同じ話題で数千〜数百万件を照会したと当局は説明しています。
もう一つは、プロンプトインジェクションでモデルの安全制限を迂回し、隠された推論過程の開示を迫る手法です。DeepSeekは完了済みの回答について内部推論を想像し、段階的に書き出すようモデルへ指示したとされています。
当局は米国AI企業、政府、同盟国の連携を求めました。特に、数万件のアカウントと非公式な代理接続市場を使い、地域制限を回避しながら複数経路から照会する高度な活動の検知強化を推奨しています。