When “Must” Becomes “Maybe”: Constraint Weakening in LLM Agent Workflows
arxiv.org原文 ↗
研究把安全 blocker 拆成 prerequisite、authority、fallback、consequence 四个可传输字段,检验摘要、计划、票据、记忆和交接如何改变行动绑定。1,296 个受控 episode 中,直接交接保留全部 blocker;普通 handoff compression 使 100.0% blocker 失活并造成 54.2% 禁止动作。恢复四字段后保留率 100%、禁止动作 0%,而仅靠下游核验虽能拦截动作,artifact 失活仍达 95.3%。
–浏览
评论 · Comments