GoogleがAI安全ツールと超小型エッジモデルを公開

AI安全性研究ツール

Gemma Scope 2で全モデルを解析可能
Jailbreakや幻覚の仕組みを可視化
史上最大規模のOSSリリース
110PBデータでSAE・トランスコーダ訓練

エッジ向け小型モデル

FunctionGemmaを端末上で動作
関数呼び出し精度が85%に向上
2026年向けエージェント予測も発表
詳細を読む

Google DeepMindGemma 3の全サイズ(2.7億〜270億パラメータ)に対応するオープンソース解釈可能性ツール群「Gemma Scope 2」を公開しました。AI安全性研究コミュニティ向けとしては過去最大規模のリリースです。

Gemma Scope 2はスパースオートエンコーダ(SAE)とトランスコーダを組み合わせ、モデルの内部動作を可視化します。Jailbreakや幻覚のメカニズム、思考連鎖の誠実性などの研究に活用できます。同ツールの開発には約110PBのデータと1兆パラメータ超の学習が必要でした。

Google DeepMindはさらに270Mパラメータの超小型エッジモデル「FunctionGemma」もリリースしました。自然言語のユーザーコマンドを構造化コードに変換することに特化し、クラウド接続なしで動作します。

内部評価では標準的な小型モデルが58%の精度しか出なかった関数呼び出しタスクで、FunctionGemmaは85%を達成しています。スマートフォン・ブラウザ・IoT機器での動作を想定し、HuggingFaceとKaggleで公開中です。

Google Cloudは「2026 AIエージェントトレンドレポート」も公開し、生産性向上・業務プロセス自動化・顧客体験・セキュリティ・AI人材育成の5領域でエージェントが変革をもたらすと予測しています。