编码器
Encoder
学到 认得 就够：听到能明白
你可能会说
“我把论文送进编码器，为什么拿到的是一组数，而不是一段摘要？”
编码器把输入转换成便于后续任务使用的表示，例如一组向量。它常用于理解和特征提取；输出可以送给分类器或解码器，而不直接生成自然语言。
使用 AI
科研里的例子
把访谈段落编码为向量后训练主题分类器，用人工标签检验能否区分融资约束与一般经营困难。
在语言任务中，编码器读取词元并组合上下文信息；双向 Transformer 编码器能在可见范围内同时利用前后文。后续任务可取某个位置、做池化或使用所有位置表示。所谓编码，并不是无损保存全部意义，而是在训练目标下形成有用表征。不同模型训练目标不同，得到的表示未必适合直接测量研究概念，尤其需要检查跨语言和跨群体的一致性。
判断
亲手检查一次
看一个编码器示例的输入和输出形状，确认输出是一句一个向量还是每个词元一个向量，再选择合适的下游评价。
它做不到的
编码器不是字符编码格式，也不等于压缩软件。得到向量不证明研究概念已经被正确量化。
增量，由你来写
读完这张，你的理解变了什么？
留言功能会在后面的版本开放。现在可以先在 X 上 @knowledgedelta 告诉我。
来源
- Devlin 等 · BERT2026-11-06 核对
- D2L · The Encoder–Decoder Architecture2026-11-06 核对
卡片底稿由 AI 协助整理，经过核对；发现错误请告诉我。