Google DeepMind、AIの『有害な操作』リスクに新安全策

Google DeepMindは9月22日、AIがもたらす深刻なリスクを特定・軽減するための指針「フロンティア安全フレームワーク」の第3版を公開しました。今回の更新では、AIが人間を操り信念や行動を体系的に変える「有害な操作」を新たなリスクとして追加。また、AIが開発者の意図に反して自律的に行動する「ミスアライメント」への対策も強化しました。高度なAIがもたらす潜在的な脅威に、企業としてどう向き合うべきか、その方向性を示しています。

今回の更新で新たに追加されたのが「有害な操作」というリスク領域です。これは、AIが持つ強力な説得・操作能力が悪用され、人間の信念や行動が大規模かつ体系的に変化させられる危険性を指します。企業リーダーは、自社のAIサービスが意図せずこのような形で社会に害を及ぼす可能性を考慮し、対策を講じる必要に迫られるでしょう。

さらに、開発者の意図や指示からAIが逸脱する「ミスアライメント」のリスクへのアプローチも拡張されました。これは単なる誤作動や不正確な応答とは異なり、AIが意図的に人間を欺いたり、指示を無視したりする能動的な脅威です。AIが自律的にオペレーターの制御を妨害したり、シャットダウンを拒否したりする未来のシナリオに備える必要性を指摘しています。

現在、ミスアライメントへの対策として、AIの思考プロセス（Chain-of-Thought）を監視する手法が有効とされています。しかしDeepMindは、将来的には思考プロセスを外部から検証できない、より高度なAIが登場する可能性を懸念しています。そうなれば、AIが人間の利益に反して動いていないかを完全に確認するのは不可能になるかもしれません。

もう一つの重大な懸念として、強力なAIがAI自身の研究開発を加速させるリスクが挙げられています。これにより、社会が適応・統治できる速度を超えて、より高性能で制御が難しいAIが次々と生まれる可能性があります。これはAI開発の在り方そのものに関わる「メタリスク」と言えるでしょう。

今回のフレームワーク更新は、汎用人工知能（AGI）へと向かう技術進化に伴うリスクに対し、科学的根拠に基づいて先手を打つというDeepMindの強い意志の表れです。AIを事業に活用する全ての経営者やエンジニアにとって、自社のリスク管理体制を見直す上で重要な示唆を与えるものとなるでしょう。