英警察の犯罪予測AI、信頼できない結果と判明

英メディアWIREDが2026年6月25日、英国エイボン・サマセット警察とブリストル市が運用してきた犯罪予測システムの内部文書を公開し、一部のリスク採点モデルが信頼できないと判断され密かに廃止されていたことを報じました。同警察は窃盗や行方不明、家庭内暴力など23以上のモデルを構築し、地域住民を機械学習でスコア化していました。

中核となった「シンクファミリー・データベース」は、ブリストル市民約50万人分の警察情報、精神保健記録、十代の妊娠、無料給食の利用状況といった極めて機微なデータを本人の同意なく統合していました。当局は児童保護を目的に「法的根拠」を理由としましたが、外部審査機関は「合法性は正当性と同じではない」と警告しています。

WIREDが入手した3万6000件超の性能データを独立監査会社Eticasが分析したところ、多くのモデルが低い精度しか示していませんでした。窃盗犯を予測するモデルは3年以上にわたり精度10%未満で、高リスクと判定された人の9割以上が実際には罪を犯していませんでした。現在も稼働する犯罪者管理アプリの的中率は3人に1人にとどまります。

問題はモデルの開発過程が文書化されず、ソースコードや変数も見つからなかった点にあります。専門家は「たった一人が数十万人に影響する採点モデルを作っている場合もある」と指摘し、誤検知が子どもや家族に与える影響への懸念を示しました。アプリに登録された男性は自身のデータ削除と制度の全廃を求め、法的措置の準備を進めています。

それでも英政府は7500万ポンドを投じる新組織「PoliceAI」を設立し、AIツールをイングランドとウェールズの43警察に展開する方針です。同事業を率いる警察大学のトップは効果的なAIを「ヘロインのように注入すべき」と述べており、精度と透明性の検証なきまま導入が加速する構図が浮かび上がっています。