监督微调
Supervised Fine-Tuning
学到 认得 就够:听到能明白
你可能会说
“我准备一批研究问答范例,监督微调怎样让模型学会按要求回答?”
SFT 用带目标答案的样本继续训练已有模型,让它更倾向于产生示范中的行为。对语言模型常是输入—理想回答配对,但也可服务其他有监督适配任务。
使用 AI
科研里的例子
准备访谈片段及人工核准的主题标签与理由,让模型学习固定输出;测试时特别检查跨主题和信息不足的片段。
模型根据目标回答各词元的预测损失更新参数,学习的不仅是内容,还包括格式、语气和处理任务的方式。示范答案若含不实推断或模板偏差,也会被强化。SFT 通常不需要为同一问题收集多个答案的相对偏好,因此与偏好优化不同。研究者设计训练资料时,应把概念边界、困难负例和未知处理写入示范,而不只是挑最整齐、最容易的样本。
判断
亲手检查一次
抽查训练样本中的目标答案,找出一条错误和一条歧义示例,说明模型按损失学习时会被推向何种行为。
它做不到的
SFT 改善示范任务表现,不等于建立事实验证器;它和指令微调常重叠,但两者不是完全同义的所有场景。
增量,由你来写
读完这张,你的理解变了什么?
留言功能会在后面的版本开放。现在可以先在 X 上 @knowledgedelta 告诉我。
来源
卡片底稿由 AI 协助整理,经过核对;发现错误请告诉我。