MakazhanAlpamys/Soup
github.com原文 ↗
Soup 把微调、评估、GGUF 导出和 OpenAI-compatible serving 收进 YAML/CLI,支持 LoRA、4-bit QLoRA、SFT、DPO、GRPO、PPO 等配方。README 的 VRAM 表把约 7B 模型放到 8GB 档、34B 放到 24GB 档,项目标题还宣称 layer streaming 可在 4GB 笔记本 GPU 训练 8B;这些是工程可达性声明,实际质量仍由数据和量化误差决定。
–浏览
评论 · Comments