模式识别实验报告.doc

实验一：身高和体重为独立变量的贝叶斯决策

实验二：身高和体重为相关变量的贝叶斯决策

需要用到的数据文件：

 FAMALE.TXT 50 个女生的身高、体重数据

 MALE.TXT 50 个男生的身高、体重数据

----- 训练样本集

 test1.txt 35 个同学的身高、体重、性别数据（15 个女生、20 个男生）

 test2.txt 300 个同学的身高、体重、性别数据（50 个女生、250 个男生）

应用单个特征进行实验：以（a）身高或者（b）体重数据作为特征，在正态分布假设

下利用最大似然法或者贝叶斯估计法估计分布密度参数，建立最小错误率 Bayes 分类器，

写出得到的决策规则，将该分类器应用到测试样本，考察测试错误情况。在分类器设计时

可以考察采用不同先验概率（如 0.5 对 0.5, 0.75 对 0.25, 0.9 对 0.1 等）进行实验，考察对决

策规则和错误率的影响。

应用两个特征进行实验：同时采用身高和体重数据作为特征，分别假设二者相关或不

相关，在正态分布假设下估计概率密度，建立最小错误率 Bayes 分类器，写出得到的决策

规则，将该分类器应用到训练/测试样本，考察训练/测试错误情况。比较相关假设和不相关

假设下结果的差异。在分类器设计时可以考察采用不同先验概率（如 0.5 vs. 0.5, 0.75 vs.

0.25, 0.9 vs. 0.1 等）进行实验，考察对决策和错误率的影响。

根据训练样本的数据分别求得本实验符合的各类的正态分布的参数估计值：

分布函数 和 。

2:设定女生和男生的先验概率 （这两个值是人为设定的）的值，满

足 的条件。

3:将训练数据带入两分布函数，分别求得类条件概率密度 。

其中 i 为第 i 个训练数据， ， 为第 个类别。

4：根据贝叶斯公式： 求出训练数据对每个类别

的后验概率 。其中，L 为总的类别（这里 L=2）， 为第 个类。

5：分类。根据:若 ，则 ，反之 。

实验 1 结果：

分别 test1 和 test2 共 335 个测试样本。以身高或体重为特征实验结果如下:

12

53

0.0633

以体重为特征的实验结果：

Test1 总人数

35

Test2 总人数

35

0

0

clear all; clc;

%读入男生的身高、体重

%用样本数据取均值和方差

male = importdata('MALE.TXT');

%读入女生的身高、体重

female = importdata('FEMALE.TXT');

% %先验概率

p_w1 = 0.75; %pw1表示男生的先验概率

p_w2 = 0.25; %pw2表示女生的先验概率

% %均值

end

for j = 1 : female_num

female_sum = female_sum + female(j,:);

end

ex_male = male_sum / male_num;

ex_female = female_sum / female_num;

average_m_height = ex_male(1,1); %男生身高的均值

average_m_weight = ex_male(1,2); %男生体重的均值

average_f_height = ex_female(1,1); %女生身高的均值

average_f_weight = ex_female(1,2); %女生体重的均值

for j = 1 : female_num

female_sum2 = female_sum2 + (female(i)-ex_female) .* (female(i)-ex_female);

end

dx_male = male_sum2 / male_num;

dx_female = female_sum2 / female_num;

dx_male_height = dx_male(1,1)^0.5;%男生身高的标准差

dx_female_height = dx_female(1,1)^0.5;%女生身高的标准差

dx_female_weight = dx_female(1,2)^0.5;%女生体重的标准差

%测试数据 身高

% test = '.\test1.txt';

test = '.\test2.txt';

px_w2=normpdf(data1,average_f_height,dx_female_height);

px=px_w1*p_w1+px_w2*p_w2;

pw1_x=px_w1*p_w1./px;%后验概率

pw2_x=px_w2*p_w2./px;

if(pw1_x(i)>pw2_x(i))

gender = 'M';

m = m + 1;

else

gender = 'F';

f = f + 1;

end

end

m

f

pe = error / test_num

%% 应用单个特征（体重）

clear all; clc;

%读入男生的身高、体重

%用样本数据取均值和方差

male = importdata('MALE.TXT');

%读入女生的身高、体重

% %先验概率

p_w1 = 0.75; %pw1表示男生的先验概率

% %均值

male_num = size(male,1);

female_num = size(female,1);

female_sum = female_sum + female(j,:);

end

ex_female = female_sum / female_num;

average_m_height = ex_male(1,1); %男生身高的均值

average_m_weight = ex_male(1,2); %男生体重的均值

average_f_height = ex_female(1,1); %女生身高的均值

average_f_weight = ex_female(1,2); %女生体重的均值

% %方差

male_sum2 = zeros(1,2);

female_sum2 = zeros(1,2);

dx_male = male_sum2 / male_num;

dx_female = female_sum2 / female_num;

dx_male_height = dx_male(1,1)^0.5;%男生身高的标准差

dx_male_weight = dx_male(1,2)^0.5;%男生体重的标准差

dx_female_height = dx_female(1,1)^0.5;%女生身高的标准差

dx_female_weight = dx_female(1,2)^0.5;%女生体重的标准差

%测试数据 体重

[data1,data2,data3]=textread(test,'%n%n%s');