matlab-线性分类器的设计doc.pdf
版权申诉
64 浏览量
2023-03-01
19:17:17
上传
评论
收藏 367KB PDF 举报
线性分类器设计
1 问题描述
对“data1.m”数据，分别采用感知机算法、最小平方误差算法、线性 SVM 算法设计分类器，
分别画出决策面，并比较性能。（注意讨论算法中参数设置的影响。）
2 方法描述
2.1 感知机算法
线性分类器的第一个迭代算法是 1956 年由 Frank Rosenblatt提出的，即具有自学习能力
的感知器（Perceptron）神经网络模型，用来模拟动物或者人脑的感知和学习能力。这个算
法被提出后，受到了很大的关注。感知器在神经网络发展的历史上占据着特殊的位置：它是
第一个从算法上完整描述的神经网络，是一种具有分层神经网络结构、神经元之间有自适应
权相连接的神经网络的一个基本网络。
感知器的学习过程是不断改变权向量的输入，更新结构中的可变参数，最后实现在有限
次迭代之后的收敛。感知器的基本模型结构如图 1 所示：
图 1 感知器基本模型
其中，X 输入，Xi 表示的是第 i个输入；Y 表示输出；W 表示权向量；w0 是阈值，f
是一个阶跃函数。
感知器实现样本的线性分类主要过程是：特征向量的元素 x1，x2，……，xk 是网络的
输入元素，每一个元素与相应的权 wi 相乘。，乘积相加后再与阈值 w0 相加，结果通过 f函
数执行激活功能，f为系统的激活函数。因为 f是一个阶跃函数，故当自变量小于 0 时，f= -1；
当自变量大于 0 时，f= 1。这样，根据输出信号 Y ，把相应的特征向量分到为两类。
然而，权向量 w 并不是一个已知的参数，故感知器算法很重要的一个步骤即是寻找一
个合理的决策超平面。故设这个超平面为 w ，满足：
w
T
* x 0, x
1
w * x 0, x
2
T
（1）
剩余12页未读，继续阅读
资源评论
