没有合适的资源?快使用搜索试试~ 我知道了~
线性分类BP神经网络.doc
1.该资源内容由用户上传,如若侵权请联系客服进行举报
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
版权申诉
0 下载量 26 浏览量
2024-04-19
22:30:49
上传
评论
收藏 378KB DOC 举报
温馨提示
试读
14页
线性分类BP神经网络.doc
资源推荐
资源详情
资源评论
模式识别实验报告 西安交通大学
1
Ⅰ 感知器准则线性分类
一、实验原理
线性分类法的判别函数
( )
g x
是
x
的线性函数,即
( )
0
T
g w= +x w x
(1)
式中
1 2
, , ,
d
x x x
é ù
ë û
=x L
是
d
维特征向量,
w
是权向量,
0
w
是个常数,称为阈值权,
并定义如下决策规则:
( )
( )
( )
0 1
0 2
0
0,
0,
0,
T
T
T
g w
g w
g w
w
w
ì
= + >
ï
= + <
í
ï
= + =
î
Î
Î
x w x
x w x
x w x
x
x
x
则决策
则决策
任意归类或拒绝
对于感知准则线性分类法,我们的工作就是用样本按感知准则算法去估计
w
和
0
w
,并按照决策规则将未知样本归入正确的类别中去。我们将式(1)定
义的线性判别函数写成如下形式
( )
0
1 1
+ w
d d
T
i i i i
i i
g w x W X
= =
= = =
å å
x W X
(2)
其中
[ ]
1 2
1
T
d
x x x=X K
为增广样本向量,
[ ]
0 1 2
T
d
w w w w=W K
为增广权向量。
图Ⅰ-1 单层感知器模型
假设期望输出为 d,我们希望调整权系数
i
W
,使得误差
2 2
( ( ))d g
e
= - X
尽可能小。
对于
2 2 2
( ( )) ( )
i i
d g d
e
= - = -
å
X W X
关于
w
求导,有
w
1
y
x
1
x
2
X
d
w
2
W
d
W0
M
i
模式识别实验报告 西安交通大学
2
2
2 2
1
( )
( ( ))
2( ( ))
d
i i
i
d d
d d d g
d g
d d d
e
=
-
-
= = = - -
å
W X
X
X X
W W W
(3)
这样我们就得到权系数调整的梯度下降算法,即
( 1) ( ) ( )k k k+ = + DW W W
(4)
其中
2
( ) 2 ( ( ))
d
k u u d g
d
e
D = - = -W X X
W
。通过迭代运算即可得到满足要求的
i
W
。
二、实验步骤
1. 设置变量和参数。下式中 n 为迭代次数,则
( ) ( ) ( ) ( ) ( )
1 2 3 4
1, , , ,
T
n x n x n x n x n=
é ù
ë û
X
为输入向量,也即训练样本;
( ) ( ) ( ) ( ) ( ) ( )
0 1 2 3 4
, , , ,
T
n w n w n w n w n w n=
é ù
ë û
W
为权值向量。
2. 初始化,赋给
( )
0
i
w
一个较小的随机非零值,n=0。
3. 对于一组输入样本
( ) ( ) ( ) ( ) ( )
1 2 3 4
1, , , ,
T
n x n x n x n x n=
é ù
ë û
X
,指定它的期望输出 d。
如果
1
w
Îx
,则 d=1,如果
2
w
Îx
,则 d=-1。
4. 计算实际输出。
( ) ( ) ( )
( )
T
y n Sgn n n= W X
5. 调整感知器的权值向量。下式中 P 为学习速率,则
( 1) ( ) ( ) ( ) ( ( ) ( )) ( )n n n n p d n y n n+ = + D = + -W W W W X
6. 判断是否满则条件(这里的条件可以使误差小于设定的值
e
,或者权值变化
很小,另外,在实现过程中还应设置最大迭代次数,以防算法不收敛程序进
入死循环):若满足,算法结束,否则,将 n 加 1,转第 3 步重新执行。
三、实验结果及分析
由于训练样本的输入顺序对学习的结果和收敛速度有一定影响,故一般情况
下训练样本最好在各类样本中轮流进行,以防止权值调整的不均匀。因此我们首
先将样本顺序打乱,然后开始训练。
1. 分别用第一组和第二组的 30 个数据进行训练,剩下的各 20 个样本进行测试
分类。结果如下:
模式识别实验报告 西安交通大学
3
Columns 1 through 20
1 1 1 1 1 1 1 1 1 1 1 1 1
1 1 1 1 1 1 1
Columns 21 through 40
-1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1
-1 -1 -1 -1 -1 -1
前 20 个为第一组,后 20 个为第二组,分类正确无误。某次实验误差绝对值收敛
曲线如图 2。
图Ⅰ-2 1、2 组误差绝对值收敛曲线
2. 分别用第一组和第三组的 30 个数据进行训练,剩下的各 20 个样本进行测试
分类。结果如下:
Columns 1 through 20
1 1 1 1 1 1 1 1 1 1 1 1 1
1 1 1 1 1 1 1
Columns 21 through 40
-1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1
-1 -1 -1 -1 -1 -1 -1
前 20 个为第一组,后 20 个为第三组,分类正确无误。某次实验误差绝对值收敛
曲线如图 3。
图Ⅰ-3 1、3 组分类误差绝对值收敛曲线
剩余13页未读,继续阅读
资源评论
ohmygodvv
- 粉丝: 506
- 资源: 2320
下载权益
C知道特权
VIP文章
课程特权
开通VIP
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功