workweave/router
github.com原文 ↗
workweave/router 用本地 ONNX embedder 和集群评分器按动作选择 Anthropic、OpenAI 或 Gemini,目标路由延迟低于 50ms,同时保留流式、工具和视觉请求。BYOK 密钥本地加密、OTLP 遥测和可自托管 Postgres 栈让“模型选择”进入运营层;文档明确提示词会转发给供应商,不经 Weave。
–浏览
github.com原文 ↗
评论 · Comments