每日 Harness 开源 · Source
返回本期 · Back to 2026-09-07

开源 / 项目 · Projects2026-09-07 · Monday, September 7, 2026

vernLLM

github.com原文 ↗

vernLLM
vernLLM 把多提供商调用封装在进程内,提供重试、熔断、fallback、限流、缓存和 middleware。示例配置为 500 RPM、100k TPM、20 并发、超时 10 秒和最多 3 次重试;这些参数把供应商波动显式化,但缓存一致性和跨提供商语义差异仍需由业务定义。
–浏览

评论 · Comments