每日 Harness 开源 · Source
返回本期 · Back to 2026-06-23

开源 / 项目 · Projects2026-06-23 · Tuesday, June 23, 2026

Sturnus

github.com原文 ↗

Sturnus
Sturnus 是 OpenAI-compatible LLM proxy,按 provider 延迟把请求路由到最快后端。它解决的是多模型供应商接入后的运行时选择问题:客户端保持 OpenAI API 形状,代理层根据实时表现做路由。相比静态 fallback,延迟感知代理更贴近生产环境里对尾延迟和可用性的要求。
浏览

评论 · Comments