研究チーム、AIエージェント監督基盤Shepherdを公開
詳細を読む
Northeastern大学とStanford大学の研究者らは、AIエージェントを監督するオープンソース基盤「Shepherd」を開発しました。長時間動くエージェントが誤動作や危険な操作をする可能性に対し、別のメタエージェントが振る舞いを監視し、必要に応じて人間へ判断を委ねます。
Shepherdは、ソフトウェアのバージョン管理に着想を得ています。各エージェントの行動と状態、メールボックスやファイルシステムなどの環境をコミットとして記録し、メタエージェントは履歴をたどって動作を確認できます。
問題のある操作を止め、直前の状態に戻し、別の経路を試すこともできます。例えばメール送信はサンドボックス内で捕捉され、メタエージェントや人間が実際に送信するかを判断できる設計です。
研究チームは、複数のプログラミングエージェント間の調整、実行済みワークフローの部分的な再生による改善、強化学習中の経路選択という三つの実験例を示しました。特定の評価課題で協調性能や実行結果の改善を報告しています。
Shepherdは公開されていますが、開発チームはまだアルファ段階から実用化へ進めている途中です。研究は12月開催予定のNeurIPS 2026で発表される計画で、複数大学の研究者によるエージェントの信頼性・安全性向上の取り組みの一部です。