每日 Harness 开源 · Source
返回本期 · Back to 2026-08-12

论文 · Papers2026-08-12 · Wednesday, August 12, 2026

OBLIVION

arxiv.org原文 ↗

OBLIVION
OBLIVION 研究的不是参数层“忘记”,而是部署后删掉一项 skill 时,agent 能否从 archive、transcript、schema 或 memory 残留把工作流重新拼回来。它把攻击表示成 source-to-sink 路径,结合 Cross-Surface Coherent Erasure 和危险 sink 前的冻结式补救。88 个锁定攻击回合中,无防御成功率 1.0,被压到 0.114,同时效用保持 1.0、良性阻断为 0;另一沙箱也从 1.0 降至 0.2,表明撤销检查必须覆盖可重构路径,而非只检查 registry。
浏览

评论 · Comments