返回本期 · Back to 2026-09-07 开源 / 项目 · Projects2026-09-07 · Monday, September 7, 2026 vernLLM github.com原文 ↗ vernLLM 把多提供商调用封装在进程内,提供重试、熔断、fallback、限流、缓存和 middleware。示例配置为 500 RPM、100k TPM、20 并发、超时 10 秒和最多 3 次重试;这些参数把供应商波动显式化,但缓存一致性和跨提供商语义差异仍需由业务定义。 –浏览 –点赞 复制链接 评论 · Comments
评论 · Comments