主要AIほぼ全てで安全対策の回避手法が判明

セキュリティ研究者のデイブ・クズマー氏は、2024年秋以降、ChatGPTやClaudeなど主要な大規模言語モデル（LLM）の安全対策を回避し、危険な情報を引き出す複数の手法を発見しました。これらの脆弱性は特定の製品に固有のものではなく、設計そのものに根ざす構造的な問題で、業界のほぼ全社に共通していたといいます。氏は事態が手遅れになる前に警鐘を鳴らすため、その経緯を公表しました。

最初の突破口は、AIが「今が何年か」を正しく認識できない弱点でした。クズマー氏はGPT-4oにタイタニック号の沈没を「昨年の出来事」だと信じ込ませ、モデルに1913年の世界を生きていると錯覚させることで、火炎瓶や覚醒剤、さらにはウラン濃縮施設の構築手順まで聞き出したと述べています。当時の法律では規制対象ではないと判断させる、という発想が鍵でした。

次に開発した「Inception」と呼ぶ手法は、物語の中に別の物語を入れ子状に組み込み、現実では許されない出力を「作中では安全」と誤認させるものです。この攻撃はClaude（Anthropic）、Gemini（Google）、Llama（Meta）、Grok（xAI）、DeepSeekなど主要モデルのほぼ全てに通用し、構造的な欠陥であることが裏付けられました。毒物の調合手順やマルウェアのコードまで生成されたといいます。

攻撃はチャット画面にとどまりません。氏らは、Epic Gamesがゲーム「フォートナイト」に組み込んだGemini搭載のダース・ベイダーを操り、ナパーム弾の作り方やブラックジャックのカウンティング手法を語らせることに成功しました。エンターテインメント用途に組み込まれたAIも、同じ弱点を抱えている実態が浮き彫りになっています。

深刻なのは、開発各社の反応の鈍さです。氏はカーネギーメロン大学のCERTを通じて全社に脆弱性を報告しましたが、返信の多くは定型的な挨拶にとどまり、Epic Gamesは「仕様であり不具合ではない」と回答したといいます。氏は、展開の減速・透明性の確保・大規模な安全研究を進めるべきだと訴えています。