exo-explore/exo

exo 把 Mac、Linux 主机及其他本地设备自动发现为推理集群，并按内存、算力与链路拓扑切分模型，让总参数量可以超过任一单机容量。项目支持基于 Thunderbolt 5 的 RDMA，并声称可降低 99% 通信延迟，也能在网络条件不同的节点间动态安排工作。它把闲置设备内存聚合成可用资源，但实际吞吐仍会受最慢节点、互连带宽和模型并行策略约束。