Millwright

Millwright 是 Rust 编写的自托管 LLM gateway，通过单一入口把请求路由到不同模型、提供商或本地后端。README 强调 CLI 优先配置、流式响应、provider 抽象和可观测性，目标是避免应用代码绑定某一家 API。它适合需要统一凭据、路由和故障切换的团队，但仍需自行运营代理层及其容量。