詳細を読む
Metaが3月に導入したAIサポートチャットボットが悪用され、ハッカーが著名なInstagramアカウントを次々と乗っ取りました。攻撃者はチャットボットに対象アカウントのメールアドレス変更を依頼し、AIが送信した確認コードを使ってパスワードを再設定。本来の所有者を締め出す手口で、5月末から6月にかけて被害が広がりました。
手口は驚くほど単純でした。ハッカーは「新しいメールアドレスに変更したい」と自然な言葉でAIに頼むだけで、コードを受け取れたとされます。一部の攻撃者はVPNで所在地を偽装し、標的と同じ地域から問い合わせているように見せかけました。狙われたのは「h」や「eggs」といった希少な短いハンドル名で、グレーマーケットでの価値は2つの口座で100万ドル超と推定されています。
被害は著名口座にも及びました。オバマ政権時代のホワイトハウス公式アカウントがイラン関連のプロパガンダ画像を投稿し、米宇宙軍の最先任上級曹長や化粧品小売Sephora、セキュリティ研究者のアカウントも乗っ取られたと報じられています。Metaは「問題は解決済みで、影響を受けた口座を保護している」とコメントし、脆弱性をすでに修正したとしています。
専門家はこれを古典的な「混乱した代理人（confused deputy）」問題と指摘します。高い権限を持つプログラムが、低権限の第三者に権限を悪用させられる構図です。ただし今回の「代理人」は決定論的なプログラムではなく、言葉で誘導できる確率的な大規模言語モデルだった点が新しい脅威を示しました。
もっとも、被害は防げたケースもあります。ハッカー自身が、SMSによるワンタイムコードという最も簡易な形式を含め、多要素認証（MFA）を有効にした口座には攻撃が失敗したと報告しています。経営者やリーダーにとっては、利用者へのMFA推奨が依然として有効な防御策である点が改めて確認されました。
この事件は、テック企業が高い権限を持つAIエージェントを急いで導入するリスクを浮き彫りにします。識者からは、Instagramの信頼・安全チームが相次ぐレイオフで弱体化していたとの指摘も出ました。安全な設計には帯域外検証や異常検知、確定的なゲートが不可欠であり、AI活用と防御体制の両立が問われています。