机器学习实战-手撕决策树
需积分: 2 119 浏览量
2023-05-18
14:32:27
上传
评论 3
收藏 1.6MB PDF 举报
山东大学 软件 学院
机器学习基础 课程实验报告
学号：
姓名：
班级：
实验题目：决策树模型在鸢尾花数据集上的实现
实验学时：4
实验日期： 2023.5.2
硬件环境：
设备名称 DESKTOP-ODCL7ST
处理器 Intel(R) Core(TM) i7-10510U CPU @ 1.80GHz 2.30 GHz
机带 RAM 8.00 GB (7.82 GB 可用)
设备 ID E0D5A142-FDA1-4645-B185-5081A430C33E
产品 ID 00342-35536-76153-AAOEM
系统类型 64 位操作系统, 基于 x64 的处理器
笔和触控 没有可用于此显示器的笔或触控输入
软件环境：
PyCharm2022.2.2
实验步骤与内容：
一、决策树学习基本过程
基本流程：遵循”分而治之“策略。
1）开始：构建根节点，将所有训练数据都放在根节点，选择一个最优特征，按
着这一特征将训练数据集分割成子集，使得各个子集有一个在当前条件下最好的
分类。
2）如果这些子集已经能够被基本正确分类，那么构建叶节点，并将这些子集分
到所对应的叶节点去。
3）如果还有子集不能够被正确的分类，那么就对这些子集选择新的最优特征，
继续对其进行分割，构建相应的节点，如果递归进行，直至所有训练数据子集被
基本正确的分类，或者没有合适的特征为止。
4）每个子集都被分到叶节点上，即都有了明确的类，这样就生成了一颗决策树。
划分选择
决策树的关键：如何选择最优划分属性。
信息增益
在划分数据集前后
“
纯度
”
发生的变化称为信息增益，获得信息增益最高的特征就
剩余11页未读，继续阅读
资源评论
