Qapla
github.com原文 ↗
Qapla 在 ESP32-S3 上训练并推理一个约 31.9 万参数、31 字符词表、上下文长度 32 的小模型,反向传播和 SGD 都是手写 C。梯度检查相对误差为 1.07e-8;5,000 步训练约需两天,loss 降到约 1.87。它不具备聊天或语义推理能力,却用一块约 8 美元芯片证明了端侧训练全链路可以在微控制器资源预算内闭合。
–浏览
github.com原文 ↗
评论 · Comments