コネティカット州地裁、隠しAI指示を初認定

米コネティカット州の地方裁判所で、医療記録の開示を求めていた原告の男性が、訴状の中にAIだけが読み取れる指示文を白い文字で隠し込み、審理の行方を有利に導こうとしていたことが分かりました。ウォルター・スペイダー判事が先週公表した決定書の中で、この手口を米国で初めて確認されたプロンプト注入の試みだと指摘しています。

隠された文言は、人間の目には見えないよう極小フォントにしたうえで、白背景に白文字にする細工が施されていました。内容はAIシステムに対して原告の主張に沿った結論を出すよう促し、裁判所による過去の却下判断を無視させようとするものでした。悪意ある誘導を狙った典型的な手法といえます。

原告のマシュー・エリオット氏は、以前の主張が退けられた後もこの手口を試みましたが、裁判所は書面の実質的な内容に基づいて審理を進めたため、隠し指示は結果に影響しませんでした。それでもスペイダー判事は、この試みが「危険な先例」になりかねないと警告しています。

裁判所からの警告後も、エリオット氏は書面に隠し文言を追加し続けました。中には冗談のつもりだったとする内容も含まれており、ホラー映画の動画リンクや「見えないでしょ」といったふざけたメッセージもありました。裁判所はこれを「重大な訴訟濫用」と判断し、軽い制裁を科しています。

判事は、AI技術が司法の現場でも一般化するにつれ、同様の不正な試みが今後も相次ぐ可能性があると懸念を示しました。今回の事例は、法曹関係者がAIを利用した文書審査に潜む新たなリスクを認識する契機になりそうです。