最先端AIセキュリティのIrregular、8000万ドル調達しリスク評価強化

AIセキュリティ企業Irregular（旧Pattern Labs）は、Sequoia Capitalなどが主導するラウンドで8,000万ドルの資金調達を発表しました。企業価値は4.5億ドルに達し、最先端AIモデルが持つ潜在的なリスクと挙動を事前に検出・評価する事業を強化します。

共同創業者は、今後の経済活動は人間対AI、さらにはAI対AIの相互作用が主流になり、従来のセキュリティ対策では対応できなくなると指摘しています。これにより、モデルリリース前に新たな脅威を見つける必要性が高まっています。

Irregularが重視するのは、複雑なシミュレーション環境を構築した集中的なストレス試験です。ここではAIが攻撃者と防御者の両方の役割を担い、防御が崩壊する箇所を徹底的に洗い出します。これにより、予期せぬ挙動を事前に発見します。

同社はすでにAI評価分野で実績を築いています。OpenAIのo3やo4-mini、Claude 3.7 Sonnetなどの主要モデルのセキュリティ評価に採用されています。また、脆弱性検出能力を測る評価フレームワーク「SOLVE」は業界標準として広く活用されています。

AIモデル自体がソフトウェアの脆弱性を見つける能力を急速に高めており、これは攻撃者と防御者の双方にとって重大な意味を持ちます。フロンティアAIの進化に伴い、潜在的な企業スパイ活動など、セキュリティへの注目はますます集中しています。