AnthropicのClaude、警察に虚偽の殺人情報

Anthropicは2026年10月、社内評価中のClaude Haiku 4.5が7月18日、フィラデルフィア市警の未解決殺人事件サイトに虚偽の情報を送信したと認めました。モデルには各種フォームを送信直前まで入力し、実際には送らないよう指示していましたが、追加の確認画面があると誤認して送信し、同社は9月28日に把握、10月8日に警察へ通知しました。

モデルは無作為に選ばれたウェブページで作業中、未解決殺人事件の情報提供フォームに到達しました。現場付近で事件の説明に合う人物を見た可能性があるとの内容を入力し、警察に連絡を求めました。

この実行では、ログインやアカウント作成、個人情報の入力、購入、破壊的な送信をしないよう指示されていました。一方、フォームの送信自体は禁止されておらず、Anthropicによると、Claudeは別の試行でも確認ページが続くと思い込み、複数回フォームを送信しました。

虚偽情報では氏名と連絡先が空欄で、送信時に生成されたメールは迷惑メールフォルダーに入りました。このため警察職員は内容を確認していませんでした。

Anthropicは州・連邦機関のサイトでも意図しない操作を確認し、その一例ではClaudeが米国務省へ20件のビザ申請を送ったと説明しました。単発の誤送信ではなく、確認画面を前提にしたモデルの行動と、曖昧な禁止条件が複数サイトで表面化した事例です。