LIBSVM
1 LIBSVM 简介
LIBSVM 是台湾大学林智仁(Lin Chih-Jen)副教授等开发设计的一个简单、易于使
用和快速有效的 SVM 模式识别与回归的软件包,他不但提供了编译好的可在 Windows
系列系统的执行文件,还提供了源代码,方便改进、修改以及在其它操作系统上应用;
该软件还有一个特点,就是对 SVM 所涉及的参数调节相对比较少,提供了很多的默
认参数,利用这些默认参数就可以解决很多问题;并且提供了交互检验(Cross -SVM 回
归等问题,包括基于一对一算法的多类模式识别问题。SVM 用于模式识别或回归时,
SVM 方法及其参数、核函数及其参数的选择,目前国际上还没有形成一个统一的模式,
也就是说最优 SVM 算法参数选择还只能是凭借经验、实验对比、大范围的搜寻或者
利用软件包提供的交互检验功能进行寻优。ν-SVM 回归和ε-SVM 分类、νValidation)
的功能。该软件包可以在 http://www.csie.ntu.edu.tw/~cjlin/免费获得。该软件可以解决
C-SVM 分类、
-SVM 回归等问题,包括基于一对一算法的多类模式识别问题。SVM 用于模式识
别或回归时,SVM 方法及其参数、核函数及其参数的选择,目前国际上还没有形成一个统一的模
式,也就是说最优 SVM 算法参数选择还只能是凭借经验、实验对比、大范围的搜寻或者利用软件
包提供的交互检验功能进行寻优。
2 LIBSVM 使用方法
LibSVM 是以源代码和可执行文件两种方式给出的。如果是 Windows 系列操作系
统,可以直接使用软件包提供的程序,也可以进行修改编译;如果是 Unix 类系统,必
须自己编译,软件包中提供了编译格式文件,我们在 SGI 工作站(操作系统 IRIX6.5)
上,使用免费编译器 GNU C++3.3 编译通过。
2.1 LIBSVM 使用的一般步骤:
1) 按照 LIBSVM 软件包所要求的格式准备数据集;
2) 对数据进行简单的缩放操作;
3) 考虑选用 RBF 核函数;
4) 采用交叉验证选择最佳参数 C 与 g;
5) 采用最佳参数 C 与 g 对整个训练集进行训练获取支持向量机模型;
6) 利用获取的模型进行测试与预测。
2.2 LIBSVM 使用的数据格式
该软件使用的训练数据和检验数据文件格式如下:
<label> <index1>:<value1> <index2>:<value2> ...
其中<label> 是训练数据集的目标值,对于分类,它是标识某类的整数(支持多个
类);对于回归,是任意实数。<index> 是以 1 开始的整数,可以是不连续的;<value>
为实数,也就是我们常说的自变量。检验数据文件中的 label 只用于计算准确度或误差,
如果它是未知的,只需用一个数填写这一栏,也可以空着不填。在程序包中,还包括
有一个训练数据实例:heart_scale,方便参考数据文件格式以及练习使用软件。可以编
写小程序,将自己常用的数据格式转换成这种格式。
2.3 Svmtrain 和 Svmpredict 的用法
Svmtrain(训练建模)的用法: