Mesh-LLM
github.com原文 ↗
Mesh LLM 把多机 GPU/内存池化,通过 `localhost:9337/v1` 提供 OpenAI 兼容服务,调度器可在本地、peer 节点或 Skippy stage split 之间选择。安装脚本、setup 和 LAN 聚类文档降低了试验门槛,但公开 mesh 也意味着节点身份、路由信任和跨机数据边界需要额外运维。
–浏览
github.com原文 ↗
评论 · Comments