Agent が実行中に逸脱したら、どうするか？
ほとんどの Agent フレームワークの答えは：やり直す。あるいは自分で戻ってくるのを待つ。
Stanford と CMU のチームは arXiv:2605.10913 で異なるアプローチを提案した：Shepherd、Meta-Agent ランタイムシステム。Agent の実行プロセスを形式化された trace 言語に変換し、上位の Meta-Agent が下位 Agent の実行をリアルタイムで監視、介入、ロールバックできる。
論文は56ページ、21の図、14の表。Christopher D. Manning が著者リストにいる。
核心問題：Agent の「ブラックボックス実行」
現在の Agent システムには根本的な脆弱性がある：下位 Agent が長链条タスクの実行を始めると、上位にはほとんど可視性がない。Agent がどのような決定を下したか、どの分岐を通ったか、中間状態は何か——すべてモデル内部にある。
タスクが終了すると、成功するか失敗するかのどちらか。失敗した場合、「通らなかった」ことしか分からず、どのステップで、なぜ逸脱したかは分からない。
Shepherd が解決したいのはまさにこの点。
形式化実行 Trace
Shepherd の核心イノベーションは、Agent の実行プロセスを一連の形式化された trace 仕様として定義すること。ログでもデバッグ出力でもなく、構造化された機械可読の実行記録言語。
この trace は記録する：
- Agent が下した決定
- 各決定の根拠
- ツール呼び出しの入出力
- 中間状態の遷移
- エラーと例外の発生位置
この trace があれば、Meta-Agent はコードの実行スタックを見るように、Agent の完全な実行プロセスを確認できる。
ランタイム介入
これが Shepherd で本当に面白い部分。
Meta-Agent は単に「見る」だけでなく、介入できる。Agent の実行过程中、trace が Agent の逸脱を示した場合（例えばループが多すぎる、袋小路に入った、明らかに間違った決定を下した）、Meta-Agent は：
- 新しいコンテキスト情報を注入
- 実行戦略の強制切り替え
- 特定チェックポイントへのロールバック
- タスク分解粒度の調整
この「ランタイム」の概念は、OS やプログラミング言語のアイデアを借りている。Agent はもはや一度限りの prompt-response サイクルではなく、状態を持ち、監視可能で、介入可能な実行プロセス。
実際の価値
応用の観点から、Shepherd が解決するのは Agent システムが demo から production へ移行する際の核心ボトルネック：デバッグ可能性と回復可能性。
production 環境では、Agent は「暴走したら再起動」では済まない。どこに問題があったか、回復できるか、同種の問題をどう防ぐかを知る必要がある。Shepherd の trace システムがこのインフラを提供する。
主要ソース：
- arXiv:2605.10913 - Shepherd: A Runtime Substrate Empowering Meta-Agents with a Formalized Execution Trace
- 著者：Simon Yu, Derek Chong, Ananjan Nandi, Dilara Soylu, Jiuding Sun, Christopher D. Manning, Weiyan Shi