OpenAIがデータ非保持のまま不正利用検知の新技術発表

OpenAIは8月19日、ゼロデータ保持(ZDR)契約を結ぶ企業顧客向けに、複数の対話にまたがる不正利用の兆候を検知する新技術「プライベート・セーフティ・プロセッシング」を発表しました。個々のやり取りごとに安全性を評価してきた従来の仕組みを拡張し、内容を非開示にしたまま複数のやり取りをまたいだパターンを分析できるようにします。9月から一部顧客向けに順次提供を始める計画です。

モデルが長時間・高度なタスクを担うようになるにつれ、単発のやり取りだけでは見えにくいリスクが増えています。悪意ある利用者が複数のアカウントを使って安全対策を繰り返し試したり、通常の調査を装って脅威を隠したりするケースも想定されます。従来のZDR対応の安全システムは各やり取りを個別に評価するため、こうした連続的な兆候の把握が難しいという課題がありました。

新技術は、顧客が管理するインフラ上のデータや、OpenAI側で保管する場合でも顧客が管理する暗号鍵で暗号化された内容を対象に、自動システムがパターンを分析します。リスクが検知された場合、OpenAIの担当者には活動の種類を示す限定的な信号のみが伝わり、元のやり取りの内容そのものは開示されません。顧客は自社システムの情報を基に警告や対応の妥当性を検証できます。

児童性的虐待画像(CSAM)に関しては、法律に基づき従来通り検出時に保存・報告する対象として扱われ、今回の非開示化の対象外となります。金融データや医療情報、企業の機密情報などを扱う顧客企業にとって、この例外規定は既存の規制対応と両立させる必要がある論点です。

検索企業のGleanでCISOを務めるSunil Agrawal氏は、OpenAIの学習不使用方針とZDRが顧客の信頼構築に寄与していると評価しています。OpenAIは現在、早期顧客とともに新技術を試験運用しており、9月には正式な展開開始とあわせて技術白書を公開する予定です。