训练步
Training Step
学到 会用 就够：能亲手用起来
你可能会说
“我查看模型训练日志里的 step，每增加一步就一定更新一次参数吗？”
训练步是记录训练进度的计数单位，常指一次优化器更新，但有时指一次小批前后向计算。使用梯度累积时两者不同，必须对照实际日志定义。
使用 AI
科研里的例子
一项政策微调每四个小批才更新一次参数；日志四百个微批只对应一百次优化更新，不能直接与另一实验四百步比较。
一个更新步可能先处理若干微批，累积梯度后才改变参数。若把微批步数误当更新步数，就会错算学习率调度、保存间隔和总训练投入。跨训练项目比较时，还要知道每步样本数与词元量；相同十万步可能对应非常不同的数据量。科研复现应记录计数口径和停止条件，不只报告一个 step 数字，并将其与数据版本、轮次和检查点对应。
判断
亲手检查一次
从一小段训练日志中定位 loss 输出、optimizer 更新和检查点保存，标出它们各按哪种 step 计数，再核对总量。
它做不到的
Step 是实践中的多义计数，不能仅凭名称推断样本量；推理生成步也与训练优化步不同。
增量，由你来写
读完这张，你的理解变了什么？
留言功能会在后面的版本开放。现在可以先在 X 上 @knowledgedelta 告诉我。
来源
- Goodfellow 等 · Optimization for Training Deep Models2026-11-06 核对
- D2L · Minibatch Stochastic Gradient Descent2026-11-06 核对
卡片底稿由 AI 协助整理，经过核对；发现错误请告诉我。