OpenAI、ポーランドNASKと安全研究協力

OpenAIとポーランドのNASKは、AIの安全性とサイバーセキュリティに関する協力を検討する合意を発表しました。高度なモデルの評価、脆弱性の研究、安全性を測る方法や標準などが対象になります。

既存の取り組みでは、CERT Polskaが7月にDaybreakへアクセスし、MikroTik RouterOSの脆弱性を6件発見したと説明されています。一部を組み合わせると、認証なしでの侵害につながる可能性があったとしています。

発見内容は提供元への報告と修正の確認につなげられました。モデルの能力だけでなく、専門家による検証と製品側の対応を組み合わせた例です。

今回の合意は、今後の連携領域を探る枠組みです。すべての評価や共同事業が完了したという発表ではなく、既存の成果と将来の協力を分けて捉える必要があります。