指令微调
Instruction Tuning
学到 认得 就够:听到能明白
你可能会说
“我读到基础模型经过指令微调后变成助手,它具体学会了怎样的任务做法?”
指令微调把任务写成自然语言要求,并用相应示范或目标结果训练模型,使其学会响应任务描述。它常通过 SFT 实现,但重点是训练资料如何组织任务。
使用 AI
科研里的例子
让模型按“只标明原文提及的融资主体”的要求提取字段,需人工检查它是否补入常识中的主体。
如果预训练主要教模型预测文字,指令训练则让输入中的任务说明与应有输出建立稳定关系。混合多种任务有助于模型面对未见要求时迁移,但效果仍受任务覆盖和示范质量约束。不要把“会听指令”理解为“无条件准确遵从”;复杂约束、相互矛盾要求或模型能力之外的任务都可能失败。科研流程需检查实际输出是否满足规范,不能只看模型说自己理解了。
判断
亲手检查一次
给同一材料分别用单一、复合和矛盾要求测试,逐项核对执行情况,区分理解任务、满足格式与内容正确。
它做不到的
指令训练不是每次写要求的动作,也不保证解决长约束和事实核验;SFT 是训练方式,指令化是任务组织特征。
增量,由你来写
读完这张,你的理解变了什么?
留言功能会在后面的版本开放。现在可以先在 X 上 @knowledgedelta 告诉我。