VernLLM

VernLLM 把重试预算、提供商 fallback、限流、熔断和缓存统一进 typed API；示例同时配置 OpenAI/Anthropic、每分钟 500 请求、10 万 token 和 20 并发。其价值在于把 LLM 调用从一次性 SDK 请求提升为可观测、可控的生产依赖层。