Ullis
github.com原文 ↗
Ullis 用 Rust 实现三值 MoE-KAN,单一二进制覆盖训练、聊天和 smoke,运行时不依赖 Python。8GB M1 的 README 基准是约 7,500 tok/s 预训练吞吐、深度推理 RSS 小于 35 MB,并把 thinking scratch 设为临时缓存;它探索的是极小内存本地推理,而非追求大模型规模。
–浏览
github.com原文 ↗
评论 · Comments