返回本期 · Back to 2026-07-22 博客文章 · Blog Posts2026-07-22 · Wednesday, July 22, 2026 Your Agentic Workflow’s Cache Keepalive Costs 8x Too Much blog.mempko.com原文 ↗ 上下文工程系统·基础设施 文章把代理框架常见的“定时打一条小请求保持 KV cache”拿到三家 API 上实测,结论是固定周期保活可能比按实际驱逐窗口调度贵约八倍。原因不只是 token 单价,还包括缓存写入、读取折扣、供应商隐式驱逐和任务间隔分布。工程上应把保活视为带概率的经济决策:只有下一次调用足够近、前缀足够大且命中折扣高时才续命,而不是把五分钟定时器写死在所有工作流里。 –浏览 –点赞 复制链接 评论 · Comments
评论 · Comments