中文信息处理期末整理1
需积分: 0 125 浏览量
2022-08-03
12:33:37
上传
评论
收藏 1.18MB PDF 举报
第一章 绪论
1、中文信息处理（语言信息处理）
⚫ 用计算机对自然语言在各个层次（语素、词、短语、句子、段落、篇章）上的各种表现
形式（图像、声音、文本）的信息进行处理：输入、输出、转换、存储、压缩、检索、
抽取和提炼。
⚫ 语言信息处理往往是“用计算模型”而非仅仅是“用计算机”。
2、训练集、开发集、测试集
通常把经过人工标注或人工校对的实验用语料库划分为训练集、开发集、测试集三个集合，
训练集 用于提供模型参数的语料集
开发集 用于实验过程中检验和改进模型性能的语料集
测试集 用于实验结束后最终评判模型性能的语料集
例如，将实验用语料划分为 10 份，其中开发集和测试集各 1 份，其余 8 份作为训练集。
3、PRF
正确率：又称精确率（Precision），正确处理的实例个数占所处理的实例个数的比率。
例如，人名识别的正确率等于正确识别的人名个数除以系统认为是人名的个数。
召回率：（Recall），正确处理的实例个数占应该处理的实例个数的比率。例如，人名
识别的召回率等于正确识别的人名个数除以文本中实有的人名个数。
调和平均值：（F-measure），正确率和召回率的综合表示，F＝(
2
+1)PR/(
2
R+P)， 通
常取 ＝1，则 F＝2PR/(R+P).
4、Topline：测试成绩的乐观估计。通常以人工处理的成绩作为 Topline。例如自动分词的顶
线是人工分词。
Baseline：测试成绩的保守估计。通常用一种最简单可行的方法的成绩作为 BaseLine。
例如自动分词的基线是最大匹配法分词。
5、封闭测试：运用从训练集里获取的数据（模型参数或规则）来测试训练集本身，目的是
对模型的性能有初步了解。但是，封闭测试成绩可能主要反映模型对训练集的过度学习（学
了太多琐碎的、依赖于罕见语境的数据）。
开放测试：运用从训练集里获取的数据来对测试集进行测试，目的是检验知识的覆盖能
力。开放测试成绩通常低于封闭测试，但能够更真实地反映模型性能。
ＣＳＤＮ：南浔Ｐｙｅｒ
剩余12页未读，继续阅读
评论0