minimind
github.com原文 ↗
MiniMind 将约 64M 参数小模型的预训练、SFT、DPO/RLHF、RLAIF、工具调用和 agent RL 全部放进可学习的代码路径,目标是降低从零训练的门槛。主线数据集已开源,轻量预训练集 1.2GB、SFT mini 1.6GB,完整预训练和 SFT 数据可达 10GB 与 14GB;README 目标是约两小时复现。Tool Use 样本显式记录对话、tool_calls 和工具结果,方便检查模型是否学到调用协议而不只是文本风格。
–浏览
评论 · Comments