karpathy/nanoGPT

nanoGPT 是 Karpathy 的小型 GPT 训练/微调代码库，目标是以最少抽象训练中等规模 GPT。README 说明它从 minGPT 重写而来，当前 `train.py` 可在单个 8xA100 40GB 节点上约 4 天复现 GPT-2 124M on OpenWebText。它常被用作 LLM 训练代码的基准读物，因为工程路径短、概念暴露直接。