逐步生成阶段
Decode Phase
学到 认得 就够：听到能明白
你可能会说
“我看到模型已经读完输入材料，为什么回答仍要一个词元一个词元地出现？”
Decode 阶段通常指自回归运行中反复生成新词元的阶段。每步依赖已有序列，并可利用缓存；这里说的是运行阶段，与“贪心或采样”这样的解码策略需区分。
使用 AI
科研里的例子
一个模型首词快但输出慢，另一个首词慢但输出快，短标签与长摘要任务的实际体验可能因此相反。
预填充后模型得到首个候选分布，选出词元后再计算下一步，如此持续直到停止。因果依赖限制了单条序列普通生成的并行方式；批处理、缓存和其他优化又会改变实际吞吐。输出显示的汉字数与词元数不相同，流式界面的缓冲也会影响感受。科研性能记录若写 tokens/s，应明确测的是生成阶段、总耗时还是多个请求的吞吐，避免混用分母。
判断
亲手检查一次
固定模型与输入，分别要求短标签和长摘要，记录首词、结束与输出词元数，手算生成阶段速度及总时延。
它做不到的
Decode 阶段不是逻辑推理阶段的统一名称，也不等于把词元 ID 转回字符串这一步；性能口径需看具体实现。
增量，由你来写
读完这张，你的理解变了什么？
留言功能会在后面的版本开放。现在可以先在 X 上 @knowledgedelta 告诉我。