批大小
Batch Size
学到 会用 就够：能亲手用起来
你可能会说
“我给文本模型设训练参数时，一次同时看多少条样本会有什么影响？”
批大小是一次梯度估计或一次计算批次中使用的样本数量，具体口径须说明。它影响内存、吞吐与更新噪声；梯度累积还可让实际计算批次不同于有效更新批次。
使用 AI
科研里的例子
访谈段落长短悬殊，批大小从八增到十六时峰值显存可能骤增；应同时记录最长段落与每批有效词元。
逐个样本计算的梯度波动较大，整批计算又可能成本过高，小批量在统计与硬件效率之间折中。文本长度不同，按条数相同的批次仍可能有不同词元数与内存峰值。改变批大小也常需要重新考虑学习率和训练步数，而不能只当作提速开关。记录实验时，应区分每设备批量、并行设备数和累积次数，说明一次参数更新到底汇总了哪些资料。
判断
亲手检查一次
在不正式重训的示例里统计每批样本长度，比较最大与平均词元数；再用设备数和累积次数手算有效批量。
它做不到的
批大小不是并行用户数；训练和推理中的 batch 用途不同，有效批量相同也不保证训练轨迹完全相同。
增量，由你来写
读完这张，你的理解变了什么？
留言功能会在后面的版本开放。现在可以先在 X 上 @knowledgedelta 告诉我。