AI誤検知で拘束の高校生、学校など提訴
出典:Ars Technica
詳細を読む
米メリーランド州ボルティモア郡で、AI銃検知システムの誤警報を受け警察に拘束された高校生4人が、学校や警察などを提訴しました。生徒らの訴状によると、2025年10月、放課後にチップスの袋を持っていた生徒が銃所持者として誤認されました。
学校職員は監視カメラ映像を確認し、約2分で銃ではないと判断して警報を取り消したとされています。警報は学校関係者とボルティモア郡警察に通知されていました。
しかし訴状は、技術上および人為的な誤りにより学校側が現場へ警察を呼び、警官が強い対応を取ったと主張します。少なくとも6台のパトカーが到着し、銃を構えた警官もいたと記載されています。
生徒らは地面にひざまずかされ、手錠をかけられ、身体と所持品を調べられた後、銃が見つからずに解放されたといいます。訴状によれば、警官からAIカメラの誤作動を示唆する発言もありました。
訴訟は、AIの検知精度だけでなく、警報取消後の連絡や現場対応の手順も問うものです。これらの経緯は原告側の訴状に基づく主張であり、裁判で事実関係が争われます。