引言
模式识别（Pattern Recognition）是指对表征事物或现象的各种形式的（数值的、文字的
和逻辑关系的）信息进行处理和分析，以对事物或现象进行描述、辨认、分类和解释的过
程
[1]
。在对数据样本进行分类时，常见的方法是对样本先进行“降维”处理，然后再进行“分
类”。特征提取技术广泛应用于数据的降维处理；而分类则一般是在特征空间中使用某种决
策方法将被识别的不同对象归为不同的几类。
目前，常见的数据分类方法主要有最小距离法、线性判别法、决策树分类法、核
Fisher 判别分类法、神经网络法，KNN 和 SVM 等
[2]
。SVM 是由 Vapnik 于 1995 年在其发表
的论文“The nature ofstatistical learning theory”中提出的，针对分类和回归问题的统计学习理
论，是在高纬特征空间使用线性函数假设空间的学习系统
[3]
。近年来，其理论研究和算法
实现方面都取得了突破性进展，开始成为克服维数灾难和过学习等传统困难的有力手段。
由于 SVM 方法具有许多隐忍瞩目的优点和前途的实验性能，越来越受重视。
传统 SVM 是针对两类分类问题，而实际问题大多是多分类的。如何有效解决多分类
问题，是近几年研究的重点之一。现常见的 SVM 解决多类分类问题的方法有一对一
SVM（one-against-one），一对多 SVM（one-against-all），多对多 SVM(all-against-all)还
有有向无环图(Directed Acyclic Graph,DAG)等。
本文主要内容就是实现一对一 SVM 的手写数字识别，验证一对一 SVM（成对分类
法）用于手写数字识别的相关性质，及针对具体数据库，在识别精度、训练时间和测试时
间方面对常见的几种多类分类方法进行对比。
SVM 的相关研究
2.1 支持向量机
假设有训练样本
其中代表在二维平面上的点，是类别标号 ， 类用+1 表示，用-1 表示。那么我们可以在
xoy 平面上将这些点一一标出，并在这个平面里，存在一条直线
(
1)
