Agent-Native Immune System
arxiv.org原文 ↗
论文提出 agent-native immune system 的架构、威胁分类与工程设计。摘要指出 agent 从静态聊天机器人演进为带持久记忆、工具协议和多 agent 协作的系统后,威胁面已经扩展;传统 perimeter security 与训练期 alignment 仍多在推理循环之外。它有价值的地方是把防御对象从“模型输出”扩大到 agent 的记忆、工具调用和协作链路。
–浏览
评论 · Comments