长上下文能力
Long-Context Capability
学到 会用 就够:能亲手用起来
你可能会说
“我把整本学位论文放进上下文窗口,怎样判断模型是否用好了其中的关键内容?”
长上下文能力强调模型在较长输入中有效定位、关联和利用信息的表现。它不同于上下文窗口这个容量上限:资料放得下,仍可能因位置、干扰或任务复杂度而用不好。
使用 AI
科研里的例子
比较多县报告中的政策差异时,不仅检查某句是否找得到,还要核模型是否把不同县同名政策混在一起。
容量说明一次最多接收多少单位,有效性则要通过任务测试。检索一个人工标记、同时比较多处证据、追踪跨章概念和准确概括整本书,是不同难度。历史研究发现位置可能影响表现,但不能把某篇旧结果直接断言为所有当前模型都一样。社科应用应针对真实文体构造测试,记录关键事实在前中后的位置及引用准确性,同时检查产品是否暗中分段、摘要或截断。
判断
亲手检查一次
准备含重复术语和相似县名的长材料,分别测试单点定位、多点对照和整体概括,按位置核原文并报告不同能力。
它做不到的
“长”没有跨模型永久固定界线;单点找针通过不证明完整读懂,也不能用窗口数字代替跨文档综合能力评价。
增量,由你来写
读完这张,你的理解变了什么?
留言功能会在后面的版本开放。现在可以先在 X 上 @knowledgedelta 告诉我。