Relay
github.com原文 ↗
Relay 把多模型接入压缩成一个静态 Go 网关:客户端可说 OpenAI 或 Anthropic 方言,网关再用自带密钥路由到不同供应商。除静态别名外,它还提供由内置 eval harness 约束的 learned smart tier,意味着自动路由不是只看价格或上下文长度,而要先在任务评测上过门槛;项目同时承诺零遥测。真正需要验证的是在线路由学习是否稳定,以及评测集能否代表组织自己的请求分布。
–浏览
评论 · Comments