GraniKV

GraniKV 将连续共享前缀放入 HOT 区、请求级 token 后缀放入 COLD 区，并允许两部分采用不同分页和后端策略。在 16K 上下文下，它相对三种基线取得 2.16、1.98 和 1.57 倍提升；异构配置仍保持 1.95 倍，而全局级联方案降到接近持平。其关键不是新的压缩算法，而是利用多代理负载里前缀复用和后缀离散这两种不同局部性。