出典：WIRED
詳細を読む
OpenAIは9月25日、ChatGPTのmacOS版にあった脆弱性の修正を公表しました。端末にすでにマルウェアを入れた攻撃者がアプリの信頼関係を悪用し、チャット履歴などの保存データにアクセスしたり、ChatGPTを通じてブラウザや機密性の高いアプリを操作したりできる恐れがありました。Objective-See Foundationの研究者が発見し、現在は修正済みです。
ChatGPTのmacOSアプリは、複数の構成要素がデジタル署名を確認し、OpenAIの正規プロセス同士かを判定します。要求元だけでなく親と祖父母に当たるプロセスまで3段階で調べ、外部ソフトからの不正要求を防ぐ設計でした。
研究者は、信頼済みのスクリプト解釈器が、信頼されていない命令も受け付ける点を突きました。攻撃用スクリプトが解釈器を3重に起動すると検証条件を満たし、悪意ある命令をChatGPT本体へ渡せたといいます。実証コードは約12行でした。
悪用されれば、チャット履歴だけでなく、ChatGPTの権限を使ってブラウザや他の機密アプリへアクセスされる恐れがありました。ただし、遠隔から無条件で侵入できる欠陥ではなく、攻撃者が事前に対象のMacへマルウェアを導入していることが前提です。
AIエージェントは仕事のために広い権限を求めるため、侵害時の影響も大きくなります。企業は修正版の適用に加え、AIアプリに与える権限、端末上の不審なソフト、ブラウザ連携を点検する必要があります。機能追加とともに攻撃面が広がるという教訓です。