Scaling Laws, Carefully
lilianweng.github.io原文 ↗
Lilian Weng 这篇是对 deep learning scaling laws 的谨慎梳理,重点在形式、经验观察和使用边界。Scaling law 常被拿来做训练预算和模型尺寸外推,但博客标题里的 Carefully 很关键:数据质量、训练配方、架构变化和 benchmark 迁移都会改变经验规律的适用范围。它适合作为“用幂律规划模型训练”之前的校准读物。
–浏览
评论 · Comments