每日 Harness 开源 · Source
返回本期 · Back to 2026-07-24

开源 / 项目 · Projects2026-07-24 · Friday, July 24, 2026

LLM Budget Cap

github.com原文 ↗

LLM Budget Cap
LLM Budget Cap 是一个 Python 包,用 Redis Lua 脚本原子地预留、结算和释放 LLM 调用预算,解决多 worker 并发时“各自检查都未超额、合计却穿透上限”的竞态。README 提供同步与异步客户端,并支持按美元或 token 设日/月共享额度;它把预算控制做成基础设施原语,而不是应用层粗略计数。
浏览

评论 · Comments