每日 Harness 开源 · Source
返回本期 · Back to 2026-09-17

论文 · Papers2026-09-17 · Thursday, September 17, 2026

ZGCM-1: A Fully Open and Extremely Efficient Foundation Model for Math and Agentic Search

arxiv.org原文 ↗

ZGCM-1: A Fully Open and Extremely Efficient Foundation Model for Math and Agentic Search
ZGCM-1 是从零训练的全开放 7B dense 模型,把 gated sliding-window/full attention、FP8 Muon 和 16K→64K→256K curriculum 组合起来,并把交互轨迹重写成 MDP 做 mid-training。论文称 16K 预训练 time-to-loss 约提升 4.2 倍效率,7B 模型在数学和 agentic search 上可与远大于自身的模型竞争。权重、各阶段 checkpoint、数据配方、训练代码和 W&B 日志一并开放,使效率主张可以被复现实验检验。
–浏览

评论 · Comments