训练轮次
Epoch
学到 会用 就够:能亲手用起来
你可能会说
“我看到训练日志已经跑了十轮,这能理解为模型把研究材料读懂了十遍吗?”
一个 epoch 通常表示训练过程遍历一遍训练资料。它描述数据使用进度,不等于优化更新次数;批大小、采样与资料流方式都会影响一轮里发生多少步更新。
使用 AI
科研里的例子
五百条政策标注训练多轮后,训练分数持续增加而新文件分数下降,应按验证规则选择版本,而不是追求读满次数。
固定数据集若有 N 个样本,每批 B 个样本,一轮通常包含约 N/B 个批次。数据洗牌使每轮组合不同,但看到同一资料更多次并不自动改善新样本表现。训练轮数过多可能过拟合,因此通常结合验证指标选择停止位置。流式数据、重复采样和词元级训练可能采用不同口径;科研记录应说明轮次定义,避免把日志里的 epoch 当作跨项目可直接比较的投入量。
判断
亲手检查一次
给定 1000 条样本、批大小 50,手算每轮约 20 批;再查看日志中的实际更新数,解释末批和累积是否影响口径。
它做不到的
一轮不等于一步;不同样本长度和采样方式下,相同轮数也可能对应不同词元量、计算投入与有效信息。
增量,由你来写
读完这张,你的理解变了什么?
留言功能会在后面的版本开放。现在可以先在 X 上 @knowledgedelta 告诉我。