SMetric

SMetric 研究 agentic LLM serving 的 GPU 调度，指出多轮 agent session 不能只按单次请求或 token 吞吐来衡量。论文提出 session-level 的均衡调度指标与方法，面向的是一个用户任务内连续多次模型调用带来的尾延迟和公平性问题。它把 serving 讨论从“每秒多少 token”拉回到“一个 agent 任务什么时候真正完成”。