1. 何谓数据挖掘?它有哪些方面的功能?
从大量的、不完全的、有噪声的、模糊的、随机的数据中,提取隐含在其中的、人们事先不知道的、但又是潜在有用的信
息和知识的过程称为数据挖掘。相关的名称有知识发现、数据分析、数据融合、决策支持等。
数据挖掘的功能包括:概念描述、关联分析、分类与预测、聚类分析、趋势分析、孤立点分析以及偏差分析等。
2. 何谓粒度?它对数据仓库有什么影响?按粒度组织数据的方式有哪些?
粒度是指数据仓库的数据单位中保存数据细化或综合程度的级别。 粒度影响存放在数据仓库中的数据量的大小, 同时影响
数据仓库所能回答查询问题的细节程度。按粒度组织数据的方式主要有:
① 简单堆积结构
② 轮转综合结构
③ 简单直接结构
④ 连续结构
3. 简述数据仓库设计的三级模型及其基本内容。
概念模型设计是在较高的抽象层次上的设计,其主要内容包括:界定系统边界和确定主要的主题域。
逻辑模型设计的主要内容包括:分析主题域、确定粒度层次划分、确定数据分割策略、定义关系模式、定义记录系统。
物理数据模型设计的主要内容包括:确定数据存储结构、确定数据存放位置、确定存储分配以及确定索引策略等。在物理
数据模型设计时主要考虑的因素有: I/O 存取时间、空间利用率和维护代价等。
提高性能的主要措施有划分粒度、数据分割、合并表、建立数据序列、引入冗余、生成导出数据、建立广义索引等。
4. 在数据挖掘之前为什么要对原始数据进行预处理?
原始业务数据来自多个数据库或数据仓库,它们的结构和规则可能是不同的,这将导致原始数据非常的杂乱、不可用,即
使在同一个数据库中,也可能存在重复的和不完整的数据信息,为了使这些数据能够符合数据挖掘的要求,提高效率和得到清
晰的结果,必须进行数据的预处理。
为数据挖掘算法提供完整、干净、准确、有针对性的数据,减少算法的计算量,提高挖掘效率和准确程度。
5. 简述数据预处理方法和内容。
① 数据清洗:包括填充空缺值,识别孤立点,去掉噪声和无关数据。
② 数据集成:将多个数据源中的数据结合起来存放在一个一致的数据存储中。需要注意不同数据源的数据匹配问题、数值冲
突问题和冗余问题等。
③ 数据变换:将原始数据转换成为适合数据挖掘的形式。包括对数据的汇总、聚集、概化、规范化,还可能需要进行属性的
重构。
④ 数据归约:缩小数据的取值范围,使其更适合于数据挖掘算法的需要,并且能够得到和原始数据相同的分析结果。
6. 简述数据清理的基本内容。
① 尽可能赋予属性名和属性值明确的含义;
② 统一多数据源的属性值编码;
③ 去除无用的惟一属性或键值(如自动增长的 id);
④ 去除重复属性(在某些分析中,年龄和出生日期可能就是重复的属性,但在某些时候它们可能又是同时需要的)
⑤ 去除可忽略字段(大部分为空值的属性一般是没有什么价值的,如果不去除可能造成错误的数据挖掘结果)
⑥ 合理选择关联字段(对于多个关联性较强的属性, 重复无益, 只需选择其中的部分用于数据挖掘即可, 如价格、 数据、 金额)
⑦ 去掉数据中的噪音、填充空值、丢失值和处理不一致数据。
7. 简述处理空缺值的方法。
① 忽略该记录;
② 去掉属性;
③ 手工填写空缺值;
④ 使用默认值;
⑤ 使用属性平均值;
⑥ 使用同类样本平均值;
⑦ 预测最可能的值。
8. 常见的分箱方法有哪些?数据平滑处理的方法有哪些?
分箱的方法主要有:
① 统一权重法(又称等深分箱法)
② 统一区间法(又称等宽分箱法)
③ 最小熵法
④ 自定义区间法