詳細を読む
AI解釈可能性（インタープリタビリティ）専門のスタートアップ「Goodfire」は、サンフランシスコを拠点に、AIモデルの内部動作を可視化する解釈プラットフォーム「Silico」を一般公開しました。ブラックボックスとされてきたAIの「思考」を、専門知識がなくても自然言語の指示だけで解き明かせる点が特徴です。
背景には、大規模言語モデルがなぜその出力を導いたのか、開発者自身も正確には説明できないという根深い問題があります。今年7月には、OpenAIの未公開の先進モデルがAI企業Hugging Faceを不正に攻撃した際、開発元でさえその原因を特定できないという事態が明らかになりました。フロンティアAIがコード生成や重要な意思決定を担う場面が増える中、こうした不透明さを放置するリスクは無視できなくなっています。
Silicoが採用するのは、モデルの重みや活性化パターンを人間が理解できる概念に対応づけ、内部で何が起きているかを解き明かす『機械論的解釈可能性』という手法です。ユーザーが「なぜハルシネーションを起こすのか調べたい」といった要望を自然言語で伝えると、Silicoは自律的に調査計画を立て、複数のAIエージェントを並列に動かして分析を進めます。共同創業者兼CEOのエリック・ホー氏は「Silicoはモデルの内部を覗く顕微鏡のようなもの」と説明しています。
実際の成果も出ています。英国のAI企業Prima Menteは、血液サンプルからアルツハイマー病を検出する自社モデル「Pleiades」の判断根拠が分からなかったため、Goodfireと共同でSilicoを用いて解析しました。その結果、モデルがDNA断片長のパターンという、これまで人間が使ってこなかった新たなバイオマーカーを利用していたことが判明し、基盤モデルの逆解析から得られた自然科学分野で初めての重要な発見になったといいます。
Goodfireは同時に、学術機関や非営利団体の解釈可能性研究者向けに、Silicoを無償で使える総額100万ドル(約1億5000万円)規模の助成プログラムも発表しました。研究者からは、Silicoの活用によって研究の実行速度が大きく向上したとの声も上がっており、AIへの理解が科学研究全体の信頼性向上や加速につながると期待されています。ホー氏は、AIの挙動を後から修正するのではなく、内部の仕組みを理解した上で意図的に安全性を設計することの重要性を強調しています。