Leyline: KV Cache Directives for Agentic Inference

Leyline 针对 agentic inference 提出 KV cache directives，用来处理工具调用失败、输出删除、轨迹分叉、回滚和重试等非线性对话操作。传统 KV cache 默认上下文按前缀追加，但 agent 工作流经常需要废弃 stale observation 或从中间节点另开分支。值得看的是，它把推理系统优化从单条聊天流吞吐扩展到 agent 状态编辑和分支探索。