MITのAndreas氏、AIの内部処理を言語化
二つの研究軸
大規模言語モデルの学習解明
データがモデルに与える影響を予測
今後の課題
急速な技術進歩に対応
科学発見と安全なAI展開を見据える
出典:MIT News
詳細を読む
MITで新たにテニュアを得た電気工学・コンピューターサイエンス学科の准教授、Jacob Andreas氏は、深層学習モデルが何を学び、実際にどう振る舞うかを人間に説明させる手法を研究しています。複雑な内部計算を外部ツールで読み解く代わりに、モデル自身が正確に説明できれば、高リスク分野での利用に向けて挙動を理解しやすくなります。
Andreas氏の研究室は、大規模言語モデルが情報を学習・処理する仕組みの解明と、機械学習モデルを訓練する新しいアルゴリズムの設計を進めています。前者では、別のニューラルネットワーク内部の情報処理ノードに、人が理解できる自然言語の説明を付ける技術などを開発しています。
こうした説明は、モデルが現実の状況でどう動くかを研究者が予測する助けになります。一方、特定のデータセットで訓練したとき何が起きるかを見通す科学的理論はまだ十分でなく、データや個別事例がモデルの振る舞いに与える影響を予測することも研究課題です。
同氏は、AI分野が数年ごとに大きく変化するなか、研究や教育を柔軟に更新する必要があると指摘します。今後、科学者にも十分に理解されていない研究データから知識を得るモデルが増えるほど、内部にある知識を言葉で説明させる技術が重要になると見ています。解釈可能性の研究は、AIエージェントなどの高度なシステムを高リスク用途で安全に展開するうえでも役立つ可能性があります。