Unicode
Unicode
学到 认得 就够:听到能明白
你可能会说
“我合并文献题录时遇到两个看起来相同的作者名,为什么程序却说不相等?”
为多语言字符及文本处理建立共同体系,码位用于标识字符,不直接等于可见字形。
使用 AI
科研里的例子
姓名之间的普通空格与不换行空格,可能导致去重漏掉。
字符、字形、码位和字节未必一一对应。组合字符、全半角和不可见空格可能使相似文字在程序里不同。用于姓名与题名匹配时应先发现差异,再决定是否规范化;保留原值和映射,以免把本来有意义的差别抹去。
在你的学科里,直接拿去用
把数据分析要求写成可复现说明
请先为这项分析形成可复现的任务说明,再建议代码。 问题:[填写] 数据字典及已有规则:[提供] 可用软件与现有代码:[提供] 明确一行数据代表什么、样本范围、连接键、单位、缺失码、变量构造、估计对象和输出。区分描述分析与因果分析;缺少识别依据时不要把回归系数直接称为因果影响。给出小样本核对、异常记录和可重跑顺序。保留原始数据,所有转换写到派生结果并留记录;不能为得到显著结果修改数据或筛选规则。方括号里的内容换成你自己的。来自知识增量《科研中英表达与 Prompt 指南》PG08
审计面板数据与合并规则
我提供[数据或样例]、[代码本]和[候选主键]。请先说明每行代表的主体与时间,检查键唯一性、重复记录、缺失码、数据类型、单位、取值范围和跨年可比性。对计划的[合并关系],先判断一对一、一对多或多对多是否符合业务含义,列出应保留的未匹配信息。对[变量构造]给出公式、适用样本和来源字段。输出审计表、疑点清单及可复查的代码草案,不覆盖原始数据,不默认把空值变为零,也不为了完整或显著而补造观测。没有实际执行代码时,明确区分预期检查与已得到的结果。方括号里的内容换成你自己的。来自知识增量《科研中英表达与 Prompt 指南》PE04
判断
亲手检查一次
显示可疑字符码位,对照前后值,检查规范化是否制造新的同名冲突。
它做不到的
Unicode是一套字符体系;UTF-8是其字节编码方式之一。
增量,由你来写
读完这张,你的理解变了什么?
留言功能会在后面的版本开放。现在可以先在 X 上 @knowledgedelta 告诉我。