（一）SVM 的八股简介
支持向量机(Support Vector Machine)是 Cortes 和 Vapnik 于 1995
年首先提出的，它在解决小样本、非线性及高维模式识别中表现出许
多特有的优势，并能够推广应用到函数拟合等其他机器学习问题中
[10]。
支持向量机方法是建立在统计学习理论的 VC 维理论和结构风险最
小原理基础上的，根据有限的样本信息在模型的复杂性（即对特定训
练样本的学习精度，Accuracy）和学习能力（即无错误地识别任意样
本的能力）之间寻求最佳折衷，以期获得最好的推广能力[14]（或称
泛化能力）。
以上是经常被有关 SVM 的学术文献引用的介绍，有点八股，我
来逐一分解并解释一下。
Vapnik 是统计机器学习的大牛，这想必都不用说，他出版的
《Statistical Learning Theory》是一本完整阐述统计机器学习思想的
名著。在该书中详细的论证了统计机器学习之所以区别于传统机器学
习的本质，就在于统计机器学习能够精确的给出学习效果，能够解答
需要的样本数等等一系列问题。与统计机器学习的精密思维相比，传
统的机器学习基本上属于摸着石头过河，用传统的机器学习方法构造
分类系统完全成了一种技巧，一个人做的结果可能很好，另一个人差
不多的方法做出来却很差，缺乏指导和原则。
评论0