C
ChaoBro

マルチエージェントシステムの授權伝播問題:AI Agent が互いにタスクを委託し始めると、権限管理が崩壊する

マルチエージェントシステムの授權伝播問題:AI Agent が互いにタスクを委託し始めると、権限管理が崩壊する

Agent セキュリティの議論は prompt injection に焦点が当てられがち。しかし 5月6日に arXiv に掲載された論文(2605.05440)は、より根本的な問題に注意を向けている:授權伝播(Authorization Propagation)

著者は Krti Tallam。20ページ、cs.AI 分類。

核心的な問題

AI Agent がタスクを実行する授權を与えられた後:

  • データソースから情報を取得
  • サブタスクを他の Agent に委託
  • 異なるシステム境界を越えて結果を統合

このプロセスで、タスクの传递とデータのフローに伴い、元の授權はどのように変化するか?

論文は、これは prompt injection の変種ではなく、RBAC、ABAC、ReBAC といった古典的なアクセス制御モデルでも完全には解決できないと主張している。

3つのサブ問題

  1. 推移的委託(Transitive Delegation) — Agent A → Agent B → Agent C。各ホップで権限はどのように減衰または維持されるか?
  2. 集合推論(Aggregation Inference) — 各データは個別に授權されているが、複数データを集合すると元の授權範囲を超える結論が導かれる可能性がある
  3. 時間的有効性(Temporal Validity) — 授權には期限がある。だが長時間の Agent ワークフロー中で、執行中に授權が失効する可能性がある

主要情報源: