自然语言处理
Natural Language Processing
学到 认得 就够:听到能明白
你可能会说
“我读社会科学文本分析论文时遇到 NLP,它与现在的大语言模型是什么关系?”
NLP 是让计算系统处理人类语言的领域,包含分类、抽取、翻译、问答与生成等任务。大语言模型是重要技术路线,但词典、规则和传统统计方法也属于语言处理。
使用 AI
科研里的例子
识别政策年份可以先用规则,区分政策工具可能需要编码规范与模型;两者都属于 NLP,却有不同验证重点。
语言任务同时涉及文字形式、语境和表达目的,技术方案需与研究对象相匹配。例如固定实体提取可用规则与统计模型,开放概括又有不同要求。把所有任务交给同一生成模型虽然方便,却可能引入多余输出与不可见的测量变化。社科研究应先定义分析单位、概念和评价标准,再选工具,并说明预处理、标注及人工校验,使文本计算真正服务研究问题而不是由技术名称决定问题。
判断
亲手检查一次
把自己的文本工作拆成日期识别、主题分类与观点归纳三项,分别写最简单基线和核验方式,再决定哪里需要大模型。
它做不到的
NLP 不是只有英文,也不等于所有处理文本文件的操作;格式转换与实质语言分析应在方法中区分。
增量,由你来写
读完这张,你的理解变了什么?
留言功能会在后面的版本开放。现在可以先在 X 上 @knowledgedelta 告诉我。
来源
卡片底稿由 AI 协助整理,经过核对;发现错误请告诉我。