模式识别-第3讲课后作业（判别函数分类法I）1

在模式识别领域，判别函数分类法是一种常用的方法，它基于模式的特征向量来构建判别函数，以便将不同的模式类别区分开。本讲主要关注三类问题的判别函数，以及线性二分能力与样本数、模式维数之间的关系。 3.1 首先考虑一个10类的模式识别问题。根据多类情况1，每个类别都有自己的判别函数，不与其他类别共享。如果三类满足多类情况1，那么这三类各自需要一个判别函数，剩下的7类如果满足多类情况2，则只需要两个额外的判别函数来区分。因此，总共需要的判别函数数目是3（满足情况1的类）+ 2（满足情况2的类）= 5个。 3.2 对于一个三类问题，我们有三个判别函数： 1) \( d_1(x) = 4x_1 - 2x_2 + x_3 \) 2) \( d_2(x) = 4x_1 - 4x_2 + 2x_3 \) 3) \( d_3(x) = 3x_1 - x_2 - 3x_3 \) 在多类情况1下，每类模式的边界由判别函数等于0决定。对于\( d_1(x) = 0 \)，我们可以得到第一类的边界；对于\( d_2(x) = 0 \)，得到第二类的边界；对于\( d_3(x) = 0 \)，得到第三类的边界。通过解这些方程，我们可以绘制出三维空间中的判别界面，以及每个模式类别的区域。 若设为多类情况2，判别函数变为： 1) \( d_{12}(x) = x_1 - x_2 \) 2) \( d_{23}(x) = x_2 - x_3 \) 3) \( d_{31}(x) = x_3 - x_1 \) 此时，三个类别共享这三个判别函数，每个函数定义了两个类别的边界。通过这些函数，我们可以绘制出新的判别界面和类别区域。 对于多类情况3，我们没有具体的函数形式，但通常这意味着类别之间存在某种复杂的交互，可能需要非线性的判别函数来区分。 【补充题】 1) 在一个二维的模式集中，由4个良好分布的两类模式组成，线性二分意味着可以找到一条直线将它们分开。对于任意四个点，至少存在一条通过三点的直线，因此，线性分类的概率是1，即总是可以找到线性划分。 2) 在三维模式集中，情况变得复杂。对于四个点，即使它们是良好分布的，可能无法找到一条通过三个点的平面来完全分离这两类。因此，线性分类的概率不再是1，而是依赖于特定的分布情况。具体概率难以给出，因为这涉及到概率论中的几何分布问题。 3) 从这两个小问题可以得出，随着模式维数的增加，线性分类的难度可能增加。在低维度（如二维），线性分类通常是可能的，但在高维度，数据可能更难用线性方式分离，这被称为“维数灾难”。 总结来说，判别函数分类法涉及构建函数来区分不同模式类别，而线性二分能力受样本数和模式维数的影响。在低维空间中，线性方法通常有效，但在高维空间中，非线性方法可能更为必要。理解和掌握这些概念对于解决实际的模式识别问题是至关重要的。