Kvcachescope

Kvcachescope 钩住 vLLM、SGLang 的 PagedAttention 分配器，记录请求块表、虚拟 token、引用计数以及前缀缓存的 radix tree。`nvidia-smi` 只能报告显存占用，这个工具则能指出状态分歧、未释放引用和僵尸块，并以 10 Hz WebSocket 更新界面。它还提供“零僵尸块”的 CI 断言和 Perfetto 导出，使 KV cache 问题可以从临场观察进入回归测试。