每日 Harness 开源 · Source
返回本期 · Back to 2026-06-26

论文 · Papers2026-06-26 · Friday, June 26, 2026

When Lower Privileges Suffice

arxiv.org原文 ↗

When Lower Privileges Suffice
这篇关注 agent 工具选择里的 least-privilege 失效:当低权限工具已经足够,模型仍可能选择或升级到高权限工具。ToolPrivBench 覆盖 8 个领域和 5 类风险模式,同时检查初始选择与 transient failure 后的升级行为;论文发现一般安全对齐并不能可靠迁移到权限最小化。它的实用意义在于把“工具描述写清楚”之外的授权治理问题单独拿出来评估,并给出权限感知 post-training 防御。
浏览

评论 · Comments