没有合适的资源?快使用搜索试试~ 我知道了~
机器学习10大经典算法综述.docx
1.该资源内容由用户上传,如若侵权请联系客服进行举报
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
版权申诉
0 下载量 197 浏览量
2022-06-14
18:37:10
上传
评论
收藏 217KB DOCX 举报
温馨提示
试读
23页
机器学习10大经典算法综述.docx机器学习10大经典算法综述.docx机器学习10大经典算法综述.docx机器学习10大经典算法综述.docx机器学习10大经典算法综述.docx机器学习10大经典算法综述.docx机器学习10大经典算法综述.docx机器学习10大经典算法综述.docx
资源推荐
资源详情
资源评论
1、C4.5
机器学习中,决策树是一个预测模型;他代表的是对象属性与对象值之间的一种映射关
系。树中每个节点表示某个对象,而每个分叉路径则代表的某个可能的属性值,而每个叶结
点则对应从根节点到该叶节点所经历的路径所表示的对象的值。决策树仅有单一输出,若欲
有复数输出,可以建立独立的决策树以处理不同输出。从数据产生决策树的机器学习技术叫
做决策树学习 通俗说就是决策树。
决策树学习也是数据挖掘中一个普通的方法。在这里,每个决策树都表述了一种树型结
构,他由他的分支来对该类型的对象依靠属性进行分类。每个决策树可以依靠对源数据库的
分割进行数据测试。这个过程可以递归式的对树进行修剪。 当不能再进行分割或一个单独
的类可以被应用于某一分支时,递归过程就完成了。另外,随机森林分类器将许多决策树结
合起来以提升分类的正确率。决策树同时也可以依靠计算条件概率来构造。决策树如果依靠
数学的计算方法可以取得更加理想的效果。决策树一般都是自上而下的来生成的。
选择分割的方法有好几种,但是目的都是一致的:对目标类尝试进行最佳的分割。从根
到叶子节点都有一条路径,这条路径就是一条“规则”。决策树可以是二叉的,也可以是多
叉的。对每个节点的衡量:
通过该节点的记录数
如果是叶子节点的话,分类的路径
对叶子节点正确分类的比例。
有些规则的效果可以比其他的一些规则要好。由于 算法在实际应用中存在一些问
题,于是 提出了 算法,严格上说 只能是 的一个改进算法。相信大家对
算法都很熟悉了,这里就不做介绍。
算法继承了 算法的优点,并在以下几方面对 算法进行了改进:
用信息增益率来选择属性,克服了用信息增益选择属性时偏向选择取值多的属性的
不足;
在树构造过程中进行剪枝;
能够完成对连续属性的离散化处理;
能够对不完整数据进行处理。
算法有如下优点:产生的分类规则易于理解,准确率较高。其缺点是:在构造树的
过程中,需要对数据集进行多次的顺序扫描和排序,因而导致算法的低效。此外, 只适
合于能够驻留于内存的数据集,当训练集大得无法在内存容纳时程序无法运行。
来自搜索的其他内容: 算法是机器学习算法中的一种分类决策树算法其核心算法是
算法 分类决策树算法是从大量事例中进行提取分类规则的自上而下的决策树
决策树的各部分是 根 学习的事例集 枝 分类的判定条件 叶
分好的各
个类
ID3 算法
概念提取算法
初始化参数 包括所有的例子为根
中的任一元素 同属于同一个决策类则创建一个叶子节点 终止
依启发式标准选择特征 ...并创建判定节点划分 为互不相交
的 个集合 ...;
对任一个 递归
算法
随机选择 的一个子集 窗口
调用 生成 的分类树 强调的启发式标准在后
顺序扫描 搜集 的意外即由 无法确定的例子
组合 与已发现的意外形成新的
重复 到 直到无例外为止
启发式标准
只跟本身与其子树有关采取信息理论用熵来量度
熵是选择事件时选择自由度的量度其计算方法为
! "#$%&''(
) * +, !-).! (
+,函数是求 % 从 到 和
./"0/*"01/(
"01/+, ' '&' '-"0/(
为保证生成的决策树最小2 算法在生成子树时选取使生成的子树的熵即 .最小的
的特征来生成子树
§2 2算法对数据的要求
所有属性必须为离散量
所有的训练例的所有属性必须有一个明确的值
相同的因素必须得到相同的结论且训练例必须唯一
§2 2对 2算法的改进
2 熵的改进加上了子树的信息
345"01/ * +, ' '&' ' -).' '&' ' (
.2 #60/ ./&342 "01/(
在输入数据上的改进
因素属性的值可以是连续量2 对其排序并分成不同的集合后按照 2 算法当作离散量进
行处理但结论属性的值必须是离散值
2 训练例的因素属性值可以是不确定的以
7
表示但结论必须是确定的
2 对已生成的决策树进行裁剪减小生成树的规模
2、The k-means algorithm
8*9:2;0#4<9 算法是一个聚类算法,把 2的对象根据他们的属性分为 82个分割,82=2。
它与处理混合正态分布的最大期望算法很相似,因为他们都试图找到数据中自然聚类的中
心。它假设对象属性来自于空间向量,并且目标是使各个群组内部的均方误差总和最小。
假设有 82个群组 28。μ2是群组 2内所有元素 1%2的重心,或叫中心点。
82 平均聚类发明于 >?2 年, 该算法最常见的形式是采用被称为劳埃德算法 0@A
;0#4<9的迭代式改进探索法。劳埃德算法首先把输入点分成 82 个初始化分组,可以是随
机的或者使用一些启发式数据。然后计算每组的中心点,根据中心点的位置把对象分到离它
最近的中心,重新确定分组。继续重复不断地计算中心并重新分组,直到收敛,即对象不再
改变分组(中心点位置不再改变)。
劳埃德算法和 82平均通常是紧密联系的,但是在实际应用中,劳埃德算法是解决 82平均
问题的启发式法则,对于某些起始点和重心的组合,劳埃德算法可能实际上收敛于错误的结
果。(上面函数中存在的不同的最优解)
虽然存在变异,但是劳埃德算法仍旧保持流行,因为它在实际中收敛非常快。实际上,
观察发现迭代次数远远少于点的数量。然而最近,BA2 C#4<#2和 #;2 ::B4:82提出存
在特定的点集使得 82平均算法花费超多项式时间达到收敛。
近似的 82平均算法已经被设计用于原始数据子集的计算。
从算法的表现上来说,它并不保证一定得到全局最优解,最终解的质量很大程度上取决
于初始化的分组。由于该算法的速度很快,因此常用的一种方法是多次运行 82平均算法,选
择最优解。
82平均算法的一个缺点是,分组的数目 82是一个输入参数,不合适的 82可能返回较差的
结果。另外,算法还假设均方误差是计算群组分散度的最佳参数。
3、SVM
支持向量机,英文为 330#42D40#2,D<,简称 2机(论文中一般简称 :B9)。它是一种
監督式學習的方法,它广泛的应用于统计分类以及回归分析中。
支持 向 量机 属 于一 般 化 线 性分 类 器 他们 也可 以 认为 是提 克洛 夫规 范化 ( 8<00B
E;#F60)方法的一个特例这族分类器的特点是他们能够同时最小化经验误差与最大化
几何边缘区因此支持向量机也被称为最大边缘区分类器。在统计计算中,最大期望(,)
算法是在概率(3#0GG:6D)模型中寻找参数最大似然估计的算法,其中概率模型依赖于无
法观测的隐藏变量(442 #G)。最大期望经常用在机器学习和计算机视觉的数据集聚
(42:4#;)领域。最大期望算法经过两个步骤交替进行计算,第一步是计算期望(),
也就是将隐藏变量象能够观测到的一样包含在内从而计算最大似然的期望值;另外一步是最
大化(,),也就是最大化在 2 步上找到的最大似然的期望值从而计算参数的最大似然估计。
,2 步上找到的参数然后用于另外一个 2 步计算,这个过程不断交替进行。
382等人在多年研究统计学习理论基础上对线性分类器提出了另一种设计最佳准则。其原
理也从线性可分说起,然后扩展到线性不可分的情况。甚至扩展到使用非线性函数中去,这
种分类器被称为支持向量机330#42D40#2,D<简称 ,。支持向量机的提出有很深的
理论背景。支持向量机方法是在近年来提出的一种新方法。
,2 的主要思想可以概括为两点: 2 它是针对线性可分情况进行分析,对于线性不
可分的情况,通过使用非线性映射算法将低维输入空间线性不可分的样本转化为高维特征空
间使其线性可分,从而使得高维特征空间采用线性算法对样本的非线性特征进行线性分析成
为可能;2 它基于结构风险最小化理论之上在特征空间中建构最优分割超平面,使得学习
器得到全局最优化并且在整个样本空间的期望风险以某个概率满足一定上界。
剩余22页未读,继续阅读
资源评论
苦茶子12138
- 粉丝: 1w+
- 资源: 6万+
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功