When Lower Privileges Suffice
arxiv.org原文 ↗
这篇关注 agent 工具选择里的 least-privilege 失效:当低权限工具已经足够,模型仍可能选择或升级到高权限工具。ToolPrivBench 覆盖 8 个领域和 5 类风险模式,同时检查初始选择与 transient failure 后的升级行为;论文发现一般安全对齐并不能可靠迁移到权限最小化。它的实用意义在于把“工具描述写清楚”之外的授权治理问题单独拿出来评估,并给出权限感知 post-training 防御。
–浏览
评论 · Comments