Adaptive Evaluation of Out-of-Band Defenses Against Prompt Injection in LLM Agents
arxiv.org原文 ↗
论文把 CaMeL、FIDES、Progent、RTBAS、FORGE 等 out-of-band 防御归纳为传统完整性保护、reference monitor 与 least privilege。作者在 AgentDojo 上用 Qwen2.5-7B 和单 H200 复现 Progent,平均攻击成功率从 25.8% 降到 4.2%,手写 adaptive attack 为 2.6%。它的谨慎之处是没有把小规模黑盒结果外推成定论,白盒 GCG 攻击仍被列为开放风险。
–浏览
评论 · Comments