超参数
Hyperparameter
学到 会用 就够：能亲手用起来
你可能会说
“我读训练说明时看到参数和超参数，学习率为什么单独列在后者里？”
超参数是控制模型结构或训练过程的设置，如学习率、批大小、训练轮数。它们通常不由同一次普通参数更新直接学出，而通过预设或验证选择。
使用 AI
科研里的例子
为小样本访谈分类器试三个学习率，在验证样本上选方案，再用未参与选择的访谈报告最终结果。
“超”主要表示它位于参数估计过程之外，不代表更高级。不同超参数控制不同环节：学习率决定更新幅度，批大小影响梯度估计，正则强度改变拟合约束。选择它们也会利用数据，因此应使用验证集，把最终测试集留到方案固定之后。自动搜索并没有消除研究者选择，只是把选择过程程序化；搜索范围、次数与种子仍应记录。
判断
亲手检查一次
写一张实验表，分开记录可学习参数、训练设置和生成设置；检查哪个设置曾依据测试结果反复调整。
它做不到的
模型温度等运行设置也常被叫超参数；写作中要说明属于训练还是生成，避免与模型权重混淆。
增量，由你来写
读完这张，你的理解变了什么？
留言功能会在后面的版本开放。现在可以先在 X 上 @knowledgedelta 告诉我。