常见决策树分类算法都有哪些?
在机器学习中,有一个体系叫做决策树,决策树能够解决很多问题。在决策树中,也有很多需要我们
去学习的算法,要知道,在决策树中,每一个算法都是实用的算法,所以了解决策树中的算法对我们
是有很大的帮助的。在这篇文章中我们就给大家介绍一下关于决策树分类的算法,希望能够帮助大家更
好地去理解决策树。
1。C4.5 算法
C4.5 算法就是基于 ID3 算法的改进,这种算法主要包括的内容就是使用信息增益率替换了信息增益下
降度作为属性选择的标准;在决策树构造的同时进行剪枝操作;避免了树的过度拟合情况;可以对不
完整属性和连续型数据进行处理;使用 k 交叉验证降低了计算复杂度;针对数据构成形式,提升了算法
的普适性等内容,这种算法是一个十分使用的算法。
2.CLS 算法
CLS 算法就是最原始的决策树分类算法,基本流程是,从一棵空数出发,不断的从决策表选取属性加
入数的生长过程中,直到决策树可以满足分类要求为止。CLS 算法存在的主要问题是在新增属性选取时
有很大的随机性。
3。ID3 算法
ID3 算法就是对 CLS 算法的最大改进是摒弃了属性选择的随机性,利用信息熵的下降速度作为属性选
择的度量。ID3 是一种基于信息熵的决策树分类学习算法,以信息增益和信息熵,作为对象分类的衡