知识增量Knowledge Deltav0.1无限进步

损失函数

Loss Function
学到 认得 就够:听到能明白
你可能会说

“我训练政策分类模型时损失一直下降,这足以说明它的研究用途更可靠吗?”

损失函数把预测与目标之间的不符合变成可优化的数值,指导训练调整参数。它是人为选定的学习标准;损失下降不自动意味着事实更准、理论更好或社会价值更高。

先知道训练
也叫Loss、训练目标损失
2

使用 AI

科研里的例子

政策分类的平均损失下降,但少见融资工具仍被全部漏掉;研究质量应结合该类召回与人工核验,而非只看曲线。

平方误差强调较大数值偏差,分类任务常用交叉熵,偏好训练又有相应目标。选择损失等于决定模型主要为什么受惩罚;样本权重与平均方式也会改变目标。训练损失首先评价模型在已用资料上的适应,而研究关心的指标可能是少数类别漏判、引用忠实度或跨地区稳定性。应把优化目标与最终评价分开记录,检验二者是否真的一致。

3

判断

亲手检查一次

选两条误差同为一正一负的数值预测,分别算绝对和平方损失;体会目标改变后,哪些错误会被更重惩罚。

它做不到的

Loss 不是显著性水平、解释力或综合质量分;不同损失的数值尺度通常也不能直接横向比较。

Δ

增量,由你来写

读完这张,你的理解变了什么?

留言功能会在后面的版本开放。现在可以先在 X 上 @knowledgedelta 告诉我。

源

来源

卡片底稿由 AI 协助整理,经过核对;发现错误请告诉我。