LIBSVM 超级详细入门经典
需积分: 0 74 浏览量
2012-07-02
23:13:33
上传
评论 1
收藏 306KB DOCX 举报
SVM 入门
（一）SVM 的八股简介
支持向量机(Support Vector Machine)是 Cortes 和 Vapnik 于 1995 年首
先提出的，它在解决小样本、非线性及高维模式识别中表现出许多特有的优
势，并能够推广应用到函数拟合等其他机器学习问题中[10]。
支持向量机方法是建立在统计学习理论的 VC 维理论和结构风险最小原理基础
上的，根据有限的样本信息在模型的复杂性（即对特定训练样本的学习精
度，Accuracy）和学习能力（即无错误地识别任意样本的能力）之间寻求最
佳折衷，以期获得最好的推广能力[14]（或称泛化能力）。
以上是经常被有关 SVM 的学术文献引用的介绍，有点八股，我来逐一分解并
解释一下。
Vapnik 是统计机器学习的大牛，这想必都不用说，他出版的《Statistical
Learning Theory》是一本完整阐述统计机器学习思想的名著。在该书中详
细的论证了统计机器学习之所以区别于传统机器学习的本质，就在于统计机器
学习能够精确的给出学习效果，能够解答需要的样本数等等一系列问题。与统
计机器学习的精密思维相比，传统的机器学习基本上属于摸着石头过河，用传
统的机器学习方法构造分类系统完全成了一种技巧，一个人做的结果可能很
好，另一个人差不多的方法做出来却很差，缺乏指导和原则。
所谓 VC 维是对函数类的一种度量，可以简单的理解为问题的复杂程度，VC
维越高，一个问题就越复杂。正是因为 SVM 关注的是 VC 维，后面我们可以
看到，SVM 解决问题的时候，和样本的维数是无关的（甚至样本是上万维的
剩余42页未读，继续阅读
评论0