困惑度
Perplexity (metric)
学到 认得 就够:听到能明白
你可能会说
“我看到文献模型的困惑度更低,这能说明它更懂研究问题或事实吗?”
困惑度常用于评价语言模型对给定文本的预测能力,通常是平均负对数似然取指数。较低表示真实词元获得较高概率,但它不是模型主观困惑,更不是事实或推理质量总分。
使用 AI
科研里的例子
一种模型对规范公文困惑度很低,可能只是熟悉模板;面对少见地方术语时的提取错误仍需人工测试。
可以粗略理解为每一步面对的等效选择数,但严格计算依赖分词与条件范围。不同分词器、资料和上下文切分会改变单位与数值,因此不能不加处理地比较。固定长度模型评价长文本时,窗口与步长也会影响可用前文。科研中可用困惑度研究特定分布上的语言预测,却不能从它直接推出摘要忠实、观点正确或社会理解;这些需要相应任务评价。
在你的学科里,直接拿去用
把论点与证据逐条对齐
请审核下列论证的证据对应关系。 论证:[粘贴] 允许使用的材料:[清单与原文] 拆成可独立检查的主张,按“主张—来源位置—研究对象与设计—能支持什么—不能支持什么—所需补证”输出。区分相关、机制解释、因果识别和价值判断。找不到依据的格子保留未支持,不补假文献。若需联网补证,先说明搜索范围和访问状态,再把新找到的证据与原材料分列。方括号里的内容换成你自己的。来自知识增量《科研中英表达与 Prompt 指南》PG07
判断
亲手检查一次
给两组目标词元概率,分别算平均负对数后取指数;再改切分单位,观察为何评价资料与分词器必须一起报告。
它做不到的
困惑度一般针对有概率定义的序列预测,不能直接用于所有模型架构;跨词元化的数值通常缺少可比性。
增量,由你来写
读完这张,你的理解变了什么?
留言功能会在后面的版本开放。现在可以先在 X 上 @knowledgedelta 告诉我。