NVIDIA-NeMo/Switchyard

Switchyard 是 Rust 实现的 LLM 代理与库，可在 OpenAI Chat/Responses、Anthropic Messages 之间转换，并把请求送往 vLLM、NIM、Ollama 等后端。路由既可随机，也可用模型分类、阶段编排或失败升级策略；Prometheus 指标覆盖请求、错误、延迟、token 和代理开销。统一协议与路由逻辑能减少应用侧适配，但仓库明确处于 pre-alpha，尚不适合作为无防护的生产网关。