知识增量Knowledge Deltav0.1无限进步

指令微调

Instruction Tuning
学到 认得 就够:听到能明白
你可能会说

“我读到基础模型经过指令微调后变成助手,它具体学会了怎样的任务做法?”

指令微调把任务写成自然语言要求,并用相应示范或目标结果训练模型,使其学会响应任务描述。它常通过 SFT 实现,但重点是训练资料如何组织任务。

也叫指令训练
2

使用 AI

科研里的例子

让模型按“只标明原文提及的融资主体”的要求提取字段,需人工检查它是否补入常识中的主体。

如果预训练主要教模型预测文字,指令训练则让输入中的任务说明与应有输出建立稳定关系。混合多种任务有助于模型面对未见要求时迁移,但效果仍受任务覆盖和示范质量约束。不要把“会听指令”理解为“无条件准确遵从”;复杂约束、相互矛盾要求或模型能力之外的任务都可能失败。科研流程需检查实际输出是否满足规范,不能只看模型说自己理解了。

3

判断

亲手检查一次

给同一材料分别用单一、复合和矛盾要求测试,逐项核对执行情况,区分理解任务、满足格式与内容正确。

它做不到的

指令训练不是每次写要求的动作,也不保证解决长约束和事实核验;SFT 是训练方式,指令化是任务组织特征。

Δ

增量,由你来写

读完这张,你的理解变了什么?

留言功能会在后面的版本开放。现在可以先在 X 上 @knowledgedelta 告诉我。

源

来源

卡片底稿由 AI 协助整理,经过核对;发现错误请告诉我。