每日 Harness 开源 · Source
返回本期 · Back to 2026-09-09

开源 / 项目 · Projects2026-09-09 · Wednesday, September 9, 2026

deltafin

github.com原文 ↗

deltafin
deltafin 将 Kimi K3 的专家权重放在多块 SSD 上按需读取,用 Rust 单二进制协调 resident spine、专家缓存和 speculative draft。README 报告 M1 Max 最新吞吐 0.2901 token/s;`setup --full` 需约 1.7TB,而 `--stream` 约 215GB 即可起步,完整质量换来的是极低速度和高存储门槛。它更像一项“把基础设施极限压进家用机”的实验,公开的测量脚本让后续优化有可复现基线。
–浏览

评论 · Comments