ChatGPTにデータ窃取攻撃——AIの脆弱サイクルが繰り返される

Arstechnicaは、ChatGPTに対する新しいデータ窃取攻撃の存在を報告しました。プロンプトインジェクションの手法を悪用し、ユーザーの会話内容を外部に漏洩させることができるとされています。攻撃者は悪意のあるWebコンテンツやドキュメントを通じてChatGPTに不正な指示を埋め込み、機密情報を窃取します。

Arstechnicaは「AIにおける悪循環」と表現しており、OpenAIがある攻撃を修正すると新たな手法が登場するという攻撃と修正の繰り返しが続いています。これはAIシステムのセキュリティが根本的に解決困難な問題であることを示しています。

企業がChatGPTを業務で使用する場合、機密性の高い情報の入力には注意が必要です。AIセキュリティのベストプラクティスの策定と、エンタープライズ向けのセキュリティ機能の強化が急務となっています。