安全保障記者、生物兵器はAIなしでも脅威と警告

9月30日公開のWired記事で、安全保障記者Annie Jacobsen氏は、生物兵器の脅威はAIがなくても深刻で、AIは参入障壁をさらに下げ得ると警告しました。核兵器と違って潜在的なパンデミック病原体へのアクセスは広く、世界各地の高封じ込め研究施設では、意図的な攻撃だけでなく事故流出も大きなリスクだと指摘しています。

Anthropicが9月に公表した悪用報告では、外国の科学者が病原体の機能を変える質問でClaudeの安全策を回避しようとした事例が5件ありました。同社は回答を拒みアカウントを停止しましたが、同じ知識はワクチンや治療薬の開発にも使えるため、生命科学とAIには二重用途の難しさがあります。

Jacobsen氏は、意図的な散布より研究施設からの事故流出を大きな懸念として挙げます。世界に約3600カ所ある高度な安全管理を要する施設で科学者や国家機関が病原体を扱う一方、事故は過去にも起きており、関与者の多さが危険を押し上げるとの見方です。

同氏の新著はAIを直接扱わず、AIなしでも病原体を改変できる現状を示す構成です。そのうえで、AIを使った生命科学への関心が高まったことで、従来は専門家の間に限られがちだった生物安全保障の議論が社会へ広がった点は前向きだと評価しています。

記事に登場する元国防関係者は、大規模な生物攻撃を完全に防ぐ方法はなく、被害を抑える備えが中心になると述べました。Jacobsen氏は目的を恐怖の拡散ではなく政策と備えへの圧力だと説明し、実在する脅威を理解しやすく伝える必要性を強調しています。