每日 Harness 开源 · Source
返回本期 · Back to 2026-08-06

博客文章 · Blog Posts2026-08-06 · Thursday, August 6, 2026

Your Agentic Workflow's Cache Keepalive Costs 8x Too Much

blog.mempko.com原文 ↗

Your Agentic Workflow's Cache Keepalive Costs 8x Too Much
作者用 100k token 前缀、4 家提供商和最长 40 分钟空闲做缓存保活测量,发现常见 30 秒 ping 比 4 分钟方案贵 7.8 倍。Anthropic 的较优间隔约 4 分钟、OpenAI 约 8 分钟;在前者上用 8 分钟会越过 5 分钟 TTL,成本甚至达到完全不保活的 4 倍。结论不是“总要延长 ping”,而是只在缓存即将淘汰且仍未越过盈亏线的狭窄区间续命。
浏览

评论 · Comments