Simthesizer: An Agent-Driven Simulation Framework for LLM Serving Systems
arxiv.org原文 ↗
Simthesizer 针对人工维护模拟器跟不上 serving 机制变化,令 agent 生成配置、运行系统级模拟并根据结果继续探索。它把新型 agentic 请求和分离式 serving 从“无法表达的脚本特例”变成可搜索的实验变量,贡献在实验生产管线而不是单一调度算法。
–浏览
评论 · Comments