PolicyGuard: A Dialogue-Grounded Sub-Agent Verifier for Policy Adherence in LLM Agents
arxiv.org原文 ↗
PolicyGuard 针对企业工作流中的 policy adherence,不把问题简化为每次工具调用后的外部阻断。论文用 dialogue-grounded sub-agent 读取多轮上下文、系统提示中的公司政策和当前动作,再判断流程是否偏离规则。它抓住了真实组织任务的特点:违规常常在多轮交互中累积,而不是单个 API call 突然越界。
–浏览
评论 · Comments