知识增量Knowledge Deltav0.1无限进步

概率校准

Probability Calibration
学到 会用 就够:能亲手用起来
你可能会说

“我让模型给访谈标签附八成把握,这样的把握在多次任务里真的对应八成正确吗?”

校准关注预测概率与实际正确频率是否相称。例如许多报 0.8 的分类预测,若约八成正确,才在这一分组上接近校准;模型口头说“我很确定”不能直接这样解释。

先知道分类任务
也叫Calibration、置信度校准
2

使用 AI

科研里的例子

按模型分数自动接受高置信政策标签前,先核查这档样本的真实错误率,并检查罕见类别是否仍过度自信。

区分能力高的模型也可能系统过度自信,因而准确率与校准是不同维度。通常按预测概率分组对照频率,或使用适当评分与校准方法,并在独立资料上评价。样本量、分组和资料分布会影响结论;换地区或时间后原校准可能失效。科研里若用分数选择自动处理与人工复核阈值,应先确认分数含义和校准,而不是把 softmax 输出或自然语言自评分直接当成可靠概率。

+

在你的学科里,直接拿去用

把论点与证据逐条对齐
请审核下列论证的证据对应关系。
论证:[粘贴]
允许使用的材料:[清单与原文]
拆成可独立检查的主张,按“主张—来源位置—研究对象与设计—能支持什么—不能支持什么—所需补证”输出。区分相关、机制解释、因果识别和价值判断。找不到依据的格子保留未支持,不补假文献。若需联网补证,先说明搜索范围和访问状态,再把新找到的证据与原材料分列。
方括号里的内容换成你自己的。来自知识增量《科研中英表达与 Prompt 指南》PG07
3

判断

亲手检查一次

把一批有真实标签的预测按置信分数分箱,分别算平均分数与正确比例;画表比较差距,避免只看总体准确率。

它做不到的

校准是在特定分布与任务上的统计性质,不保证单个预测正确;生成词元概率、口头信心与分类正确概率必须分开。

Δ

增量,由你来写

读完这张,你的理解变了什么?

留言功能会在后面的版本开放。现在可以先在 X 上 @knowledgedelta 告诉我。

源

来源

卡片底稿由 AI 协助整理,经过核对;发现错误请告诉我。