OpenAI、悪用40超の脅威ネットワークを阻止。AIは攻撃の高速化に利用

米OpenAIは2025年10月、AIの悪用を阻止するための最新レポートを公表しました。2024年2月からこれまでに、同社の利用ポリシーに違反した40以上の悪意あるネットワークを排除したと報告しています。AIが悪用される事例が増える中、同社は安全性を確保するための取り組みを強化しています。

阻止対象は国家レベルの脅威から一般的な犯罪活動まで多岐にわたります。具体的には、権威主義体制が人口を制御したり他国を強制したりする目的でAIを利用する事例や、詐欺、悪意あるサイバー活動、そして秘密裏の影響工作などが含まれています。

脅威アクターの動向として、彼らはAIによって全く新しい攻撃能力を獲得しているわけではないと分析されています。むしろ、既存の攻撃手法（古いプレイブック）にAIを「ボルトオン」することで、活動をより高速化・効率化させている傾向が顕著です。

OpenAIは、ポリシー違反が確認された場合、当該アカウントを即座に停止する措置を講じています。さらに、悪用に関する知見やデータを提携パートナーと共有することで、業界全体のセキュリティ対策と防御策の改善を推進し、一般ユーザーの保護強化に努めています。