Drift-Aware LLM Routing with Sparse Contexts and Shared Budgets
arxiv.org原文 ↗
DRS 用滚动 shadow audit 估计稀疏上下文中奖励和资源消耗,以悲观奖励、乐观成本和在线影子价格做带多 knapsack 约束的路由,并在提交前硬计量。理论在零漂移时给出约 O(sqrt(sT/rho)) 适应率,漂移预算 V_T 则产生 O(T^(2/3)(s/rho)^(1/3)V_T^(1/3)) 项;贡献在于同时处理输入分布变化与共享资源,而不是把它们拆成静态 benchmark。
–浏览
评论 · Comments