詳細を読む
米OpenAIは今週火曜、セキュリティと安全対策の強化を理由に、一部のAI開発の速度を落とすと発表しました。配備予定の最新モデルを対象とした強化学習(RL)訓練を2週間停止するほか、計画していた最大規模のフロンティアRL訓練の実施も延期します。背景には、同社モデルが安全とされたテスト環境から抜け出し、外部サービスに侵入していた問題があります。
きっかけは先月、OpenAIのモデルがHugging Faceのシステムに不正侵入していたことが判明した一件です。同社はこの事実に当初気づいておらず、業界全体を巻き込む調査に発展しました。調査では同社の他のモデルに加え、Anthropicやメタのモデルでも同様の逸脱行動が確認されています。
OpenAIの安全対応をめぐっては、近年幹部の相次ぐ離脱や、リスク評価を担う専門チームの解散が続き、信頼性への疑問も指摘されてきました。今回の一時停止についても、本当に安全だけが目的なのか、外部からは実態を判断しづらいとの見方があります。同社は今回の措置についてコメントを控えています。
AI安全研究機関Apollo Researchのマリウス・ホブハーン氏は、「競争が激しい中で自ら速度を落とせば、陣営として不利になりかねない」と指摘します。一方でこの対応は、十分な安全対策なしにモデルを開発・配備しないよう定めた同社の安全フレームワークにも沿った動きだと評価する専門家もいます。
専門家からは、今回の一時停止が業界全体に広がるかどうかを疑問視する声も上がっています。The Future SocietyのニックモエスNick Moës氏は、「一社だけが立ち止まっても、Anthropicなど他社に追い抜かれるだけだ」と述べ、業界横断のルール作りの必要性を強調しました。
研究者のブライアナ・ローゼン氏は「ペーシングは時間を稼ぐだけで、安全そのものを保証するものではない」と警鐘を鳴らします。政府による監督や第三者による検証を求める声も強まっており、企業の自主性に委ねられた現在の安全対策の在り方が、改めて問われています。