Lifeboat
github.com原文 ↗
Lifeboat 把自有机器上的开放权重模型放到 OpenAI/Anthropic 兼容 API 后面,附带负载均衡、Web 控制台和本地网络边界。桌面版按平台使用 Metal/MLX 或 Vulkan,仓库只发布安装包和 Kubernetes/Docker 说明,源码不公开;因此它更像可部署运行时发行版,而不是可审计的推理引擎。
–浏览
github.com原文 ↗
评论 · Comments