现代机器学习理论大作业(2).docx资源-CSDN文库

版权申诉

68 浏览量 2022-06-14 20:39:23 上传评论收藏 1019KB DOCX 举报

资源详情

资源评论

现代机器学习理论大

作业

题目：葡萄酒的种类

识别

----基于支持向量机（SVM ）的数据分

类预测

学院：

_________________

姓名：

_________________

学号：

_________________

现代机器学习理论》葡萄酒的种类

识别

-- 基于支持向量机（ SVM ）的数据分类

预测

一、理论知

识

1、支持向量机（ SVM ）

简介

支持向量机

（

SVM

）是

Vapnik

等人根据统计学习理论提出的一种学习方法，近年来在模式

识别、

回归分析、图像处理和数据挖掘等方面得到了广泛应用。支持向量机

方法根据

Vapnik

的结构风险最小化

原

则，尽量提高学习机的泛化能力，即由有限训练样本得到的决策规则，对独立的测试集仍能够得

到小的误

差。此外，支持向量机算法是一个凸二次优化问题，能够保证找到的极值解就是全局最优解。

这些特点使

支持向量机成为一种优秀的学习算法。

目前在国

外，

SVM

是一个研究的热门，并目已经取得了一些成果。这一点可以从近几年国

外发表的

学术论文看出，

90

年代初经典

SVM

的提出，由于其完整的理论框架和在实际应用中取得的很多好的

效果，

IEEE Transactions on Neural Networks

也已经出版了关于

VC

理论和

SVM

方面的

专

集。自从

在机器学习领域受到了广泛的重视。其理论和应用在横向和纵向上都有了发展。

SVM

的理论研究与进展主要包括：模糊支持向量机；最小二乘支持向量机；加权支

持向量

目前对

机；主动学习的支持向量机等。而对算法的改进主要内容有：降低计算量；自适应算法的研究；

噪声数据

处理；核函数的构造和参数的选择理论研究；主动学习策略的应用；增量学习等。

虽然

SVM

方法在理论上具有很突出的优势，但与其理论研究相比，应用研究相对比较落

后。最近几

年，应用研究才逐渐地多起来。在模式识别领域，包括手写体数字识别、人脸检测、语音识别、

目标识别、

文本分类等方面，取得了一定的成果。此外，支持向量机具有调节参数少，运算速度快，时间代

价小的优

点，随着支持向量机理论研究的逐步深入，支持向量机在模式识别、回归估计、概率密度函数

估计等问题

上的研究也逐步深入，必将成为各国研究者的研究热点。

2、支持向量机（ SVM ）

原理

支持向量机

(Support Vector Machine

,

简称

SVM)

是建立在统计学习理论的

VC

维理论和

结构风险最小原理的基础上发展起来的一种机器学习

方法。

支持向量机集成了最大间隔

超平

面、

Mercer

核、凸二次规划、稀疏解和松弛变量等多项技术。支持向量机的学习

目标就是

构造一个决策函数，能够将数据点尽可能多的正确分开。

2.1 线性可分问

题

在很多现实情况下，训练样本数据具有噪声，特征空间一般不能线性分开，不可能建立一个

不具有分

类误差的分类超平面。如下图所示，希望找到一个最优超平面，对整个训练集合平均的分类误差

的概率达到

最小。

剩余20页未读，继续阅读

内容反馈

版权申诉

评论0

最新资源

苦茶子12138

粉丝: 1w+
资源: 6万+

资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！点击此处反馈

feedback-tip