自监督学习
Self-Supervised Learning
学到 认得 就够：听到能明白
你可能会说
“我想理解文献模型的训练过程，没有人逐条标注时，它从哪里得到学习目标？”
自监督学习从资料本身构造训练目标，例如遮住一部分让模型预测，或把同一对象的不同视图配对。它减少逐条人工标签需求，但任务与数据处理规则仍由人设计。
使用 AI
科研里的例子
先用大量未标注政策文件学习语言表示，再用少量人工编码样本训练分类；前一阶段也有明确的训练目标。
预测目标可自动从输入生成，因此监督信号不必来自人工类别。语言中的下一词预测与视觉中的对比任务，都属于常见路径；它们学到的表示可再用于有标签任务。自监督并不意味着资料无选择、目标无价值判断，也不是模型自己证明事实。原始文本中的错误照样可成为预测目标，图像增强规则也会决定哪些差别被忽略，因而研究者仍须检查学到的特征是否合用。
判断
亲手检查一次
拿一句已知文本遮掉一个词，用原句自动生成输入和目标，说明这种标签来自哪里，以及它为何不验证整句事实。
它做不到的
自监督与无人监管不是同义词；无需逐条标签不等于无需数据治理，也不保证下游研究概念有效。
增量，由你来写
读完这张，你的理解变了什么？
留言功能会在后面的版本开放。现在可以先在 X 上 @knowledgedelta 告诉我。
来源
- Chen 等 · SimCLR2026-11-06 核对
- Hugging Face LLM Course · How do Transformers work?2026-11-06 核对
卡片底稿由 AI 协助整理，经过核对；发现错误请告诉我。