每日 Harness 开源 · Source
返回本期 · Back to 2026-06-26

博客文章 · Blog Posts2026-06-26 · Friday, June 26, 2026

Scaling Laws, Carefully

lilianweng.github.io原文 ↗

Scaling Laws, Carefully
Lilian Weng 这篇是对 deep learning scaling laws 的谨慎梳理,重点在形式、经验观察和使用边界。Scaling law 常被拿来做训练预算和模型尺寸外推,但博客标题里的 Carefully 很关键:数据质量、训练配方、架构变化和 benchmark 迁移都会改变经验规律的适用范围。它适合作为“用幂律规划模型训练”之前的校准读物。
浏览

评论 · Comments