知识增量Knowledge Deltav0.1无限进步

困惑度

Perplexity (metric)
学到 认得 就够:听到能明白
你可能会说

“我看到文献模型的困惑度更低,这能说明它更懂研究问题或事实吗?”

困惑度常用于评价语言模型对给定文本的预测能力,通常是平均负对数似然取指数。较低表示真实词元获得较高概率,但它不是模型主观困惑,更不是事实或推理质量总分。

也叫PPL
2

使用 AI

科研里的例子

一种模型对规范公文困惑度很低,可能只是熟悉模板;面对少见地方术语时的提取错误仍需人工测试。

可以粗略理解为每一步面对的等效选择数,但严格计算依赖分词与条件范围。不同分词器、资料和上下文切分会改变单位与数值,因此不能不加处理地比较。固定长度模型评价长文本时,窗口与步长也会影响可用前文。科研中可用困惑度研究特定分布上的语言预测,却不能从它直接推出摘要忠实、观点正确或社会理解;这些需要相应任务评价。

+

在你的学科里,直接拿去用

把论点与证据逐条对齐
请审核下列论证的证据对应关系。
论证:[粘贴]
允许使用的材料:[清单与原文]
拆成可独立检查的主张,按“主张—来源位置—研究对象与设计—能支持什么—不能支持什么—所需补证”输出。区分相关、机制解释、因果识别和价值判断。找不到依据的格子保留未支持,不补假文献。若需联网补证,先说明搜索范围和访问状态,再把新找到的证据与原材料分列。
方括号里的内容换成你自己的。来自知识增量《科研中英表达与 Prompt 指南》PG07
3

判断

亲手检查一次

给两组目标词元概率,分别算平均负对数后取指数;再改切分单位,观察为何评价资料与分词器必须一起报告。

它做不到的

困惑度一般针对有概率定义的序列预测,不能直接用于所有模型架构;跨词元化的数值通常缺少可比性。

Δ

增量,由你来写

读完这张,你的理解变了什么?

留言功能会在后面的版本开放。现在可以先在 X 上 @knowledgedelta 告诉我。

源

来源

卡片底稿由 AI 协助整理,经过核对;发现错误请告诉我。