1
实验一 设计贝叶斯决策分类器对鸢尾花分类
1.1 实验类型
基础型(验证性):Bayes 分类器设计(最大后验概率判决、Neyman-Person
判决)
1.2 实验目的
本实验旨在让同学对模式识别有一个初步的理解,能够根据自己的设计对贝
叶斯决策理论算法有一个深刻地认识,理解二分类分类器的设计原理。
1.3 实验条件
Matlab 科学计算软件
1.4 实验原理
1)最大后验概率判决准则
假设已知类先验概率𝑃
(
𝜔
𝑖
)
,类条件概率𝑝
(
𝒙|𝜔
𝑖
)
,最大后验概率判决准则就是
将样本 x 归入后验概率最大的类别中,即:
如果
)( x
j
p
)(max
,...,,
x
i
mi
P
321
,则:𝒙 ∈ 𝝎
𝒋
.
最大后验概率判别准则的实现步骤:
(1)根据训练样本,计算先验概率:
NNP
ii
)(
(2)结合已知条件,计算类条件概率:
)|(
i
P
x
(3)根据贝叶斯公式求后验概率:
m
i
ii
ii
i
PP
PP
P
1
)|()(
)|()(
)|(
x
x
x
(4)根据后验概率的大小判别样本归属类别
2)N-P 判别准则
只适应于两分类问题。基本思想是保证一类错误概率不变的情况下使另一类
错误概率最小(如:雷达目标检测中的虚警、漏警问题)。N-P 准则为:
若
0
21
)()(
xx pp
,则
1
x
若
0
21
)()(
xx pp
,则
2
x
写成似然比形式为:
)(
)(
2
1
x
x
p
p
,则判
2
1
x
N-P 准则与最大后验概率准则相似,不同之处在于 N-P 准则的阈值是 Lagrange