支持向量机简介
主要内容
SVM的理论基础
相关基础知识
线性支持向量机的求解
非线性支持向量机——核方法
算法归纳
关于SVM
思想:
通过某种事先选择的非线性映射(核函数)将输入向量
映射到一个高维特征空间,在这个空间中寻找最优分类超平
面。使得它能够尽可能多的将两类数据点正确的分开,同时
使分开的两类数据点距离分类面最远。
途径:
构造一个约束条件下的优化问题,具体说是一个带线性
不等式约束条件的二次规划问题(constrained quadratic
programing),求解该问题,构造分类超平面,从而得到决策
函数。
SVM的理论基础
传统机器学习方法的经验风险最小化原则
统计学习理论的结构化风险最小化原则
VC维
泛化误差的边界
经验风险最小化原则ERM
传统的学习理论主要是基于经验风险最小
化原则(ERM)的。