Deontic Policies for Runtime Governance of Agentic AI Systems

作者： Anupam Joshi, Tim Finin, Karuna Pande Joshi, Lalana Kagal 發表： 2026-06-17

摘要

本文針對 LLM 驅動的自主 Agent 系統提出 AgenticRei 治理框架，使用道義邏輯（Deontic Logic）政策語言，以 OWL 本體語言表達，在 LLM 外部由高效能邏輯引擎即時評估。相較於 XACML、Rego、Cedar 等現有政策引擎僅處理「允許/禁止」，AgenticRei 新增了義務生命週期管理、元政策衝突解決、條件豁免機制及領域階層推理能力，能同時治理 Agent 的工具呼叫與 Agent 間通訊。

企業應用啟示

對 CJ 哥在 AI 治理與合規領域的顧問工作極具參考價值：當企業開始部署 Agentic AI 時，傳統的存取控制已不足夠，需要能處理「義務、豁免、衝突解決」的运行时治理框架。

關鍵技術 / 觀點

超越允許/禁止：Agent 治理需要義務（obligation）、豁免（dispensation）、衝突解決

AgenticRei 框架：基於 Rei 框架的道義政策語言，以 OWL 表達，LLM 外獨立執行

雙重治理：同時涵蓋 Agent 工具呼叫與 Agent-to-Agent 訊息

與 A2AS 相容：可自然組合業界標準框架

適用場景：醫療、資安、資料隱私等高度合規領域