知识增量Knowledge Deltav0.1无限进步

深度学习

Deep Learning
学到 认得 就够:听到能明白
你可能会说

“我读教育研究的方法部分遇到“深度学习”,这里的“深”是在说模型懂得深吗?”

深度学习主要用多层神经网络学习表示与预测规则。“深”指多层计算变换,使模型能逐步组合特征,并不表示结论必然深入或可靠。

先知道神经网络
也叫DL
2

使用 AI

科研里的例子

比较词频回归与深度文本模型识别政策工具的效果,除平均分外,还检查否定句与跨地区表达的差错。

浅层方法往往依赖研究者预先构造特征,深度模型则能在训练目标约束下学习许多中间表示。例如从局部文字线索组合成句子特征,再用于分类。表示与任务一起优化,使其具有适应复杂资料的能力,也带来数据需求和诊断困难。层数、训练数据和优化方法共同影响表现;只有增加层数,不保证模型更强,更不能据此跳过人工抽查。

3

判断

亲手检查一次

画出词频模型和多层文本模型的输入、中间表示、输出,对照它们哪些特征由人指定,哪些通过训练获得。

它做不到的

深度学习不等于大语言模型,也不要求每次都从零训练;小样本结构化数据未必需要深度网络。

Δ

增量,由你来写

读完这张,你的理解变了什么?

留言功能会在后面的版本开放。现在可以先在 X 上 @knowledgedelta 告诉我。

源

来源

卡片底稿由 AI 协助整理,经过核对;发现错误请告诉我。