詳細を見る
カナダのタンブラーリッジで8人が死亡した銃乱射事件において、容疑者Jesse Van Rootselaarがかねてより暴力的なシナリオをChatGPTに入力していたことが明らかになりました。TechCrunchとThe Vergeの報道によると、OpenAIのLLM監視ツールがこれらのチャットを検知し、社内で警察への通報を議論したものの、実際には通報しなかったとされています。
OpenAIはアカウントの停止は行ったと説明していますが、なぜ法執行機関への通報を行わなかったのかについては明確にしていません。AIプラットフォームが危険なコンテンツを検知した場合に法的な通報義務を負うかどうかは、現在の法律では明確ではなく、緊急に整備が必要な法的グレーゾーンです。
この問題はSNSプラットフォームがかつて直面したコンテンツモデレーションジレンマとよく似ています。Facebookがテロリスト計画を事前に知っていたか、YouTubeが極端化コンテンツにどう対応するかといった問題と同じ構造です。しかしAIチャットボットは会話の当事者として、プラットフォームより密接な関係にあります。
法律の専門家は、AIチャットボットのプロバイダーに対して、暴力的な犯罪計画に関する具体的・信頼できる警告を当局に報告する義務を設けるべきだと主張しています。AIプラットフォームの通報義務を定める法整備は急務です。
この事件はAIシステムが社会のインフラとして定着する中で、プロバイダーが負う公共安全への責任の範囲を根本から問い直す事例です。OpenAIをはじめとするAIラボは、内部ポリシーの透明化と法的義務の明確化に向けた対話を社会と始める必要があります。