幻觉
Hallucination
学到 会用 就够：能亲手用起来
你可能会说
“我让助手推荐文献，它为什么能把一篇不存在的论文说得像真的一样？”
幻觉通常指模型生成看似成立却不真实、无依据或与给定材料不符的内容。它是输出错误的描述性术语，具体包括什么须按任务定义；流畅和自信不能排除这种错误。
使用 AI
科研里的例子
模型给出一篇题名、作者、期刊都很像真的文章，只有逐项找到出版方记录并核正文，才能把它作为引用候选。
语言生成主要受训练模式和当前条件概率驱动，并非每句话都经过事实数据库核验。训练资料的错误、信息缺失、上下文误读与生成选择都可能造成问题。需要区分外部事实错误、偏离指定来源及合理但未证实的推测；三者检查方式不同。降低温度可以让错误更稳定，却不能保证消除。科研处理宜核人名、年份、数字、引用与因果措辞，并允许系统明确资料不足，而不是逼它填满所有空格。
在你的学科里，直接拿去用
从给定文献读取问题与证据
请只依据下面的文献材料回答。 材料：[粘贴原文或附文件；若只有摘要请注明] 我想弄清：[问题] 请列出作者要解释的现象、主要概念、数据与研究单位、研究设计、主要发现及作者写明的局限。区分作者原话、你的释义与尚无法判断的地方。每项给页码或可定位段落，保留关键术语的中文与英文。若没有全文，不把摘要之外的细节补出来。最后提出3个我可以回原文亲自检查的问题。方括号里的内容换成你自己的。来自知识增量《科研中英表达与 Prompt 指南》PG02
把论点与证据逐条对齐
请审核下列论证的证据对应关系。 论证：[粘贴] 允许使用的材料：[清单与原文] 拆成可独立检查的主张，按“主张—来源位置—研究对象与设计—能支持什么—不能支持什么—所需补证”输出。区分相关、机制解释、因果识别和价值判断。找不到依据的格子保留未支持，不补假文献。若需联网补证，先说明搜索范围和访问状态，再把新找到的证据与原材料分列。方括号里的内容换成你自己的。来自知识增量《科研中英表达与 Prompt 指南》PG07
判断
亲手检查一次
给模型一段不含某项信息的材料并要求只据材料回答，观察它是否补全；把每个断言标成有原文支持、推测或错误。
它做不到的
不是所有错误都适合用幻觉一词概括；OCR 误识、真实资料本身错误和生成添加应分开记录，避免找错修复环节。
增量，由你来写
读完这张，你的理解变了什么？
留言功能会在后面的版本开放。现在可以先在 X 上 @knowledgedelta 告诉我。
来源
- Lin 等 · TruthfulQA2026-11-06 核对
- Liang 等 · Holistic Evaluation of Language Models2026-11-06 核对
卡片底稿由 AI 协助整理，经过核对；发现错误请告诉我。