论文研究-二维典型相关分析在小样本图像识别上的应用.pdf

所需积分/C币:15 2019-09-13 11:33:01 860KB .PDF
收藏 收藏
举报

针对传统典型相关分析(Canonical Correlation Analysis,CCA)的图像识别中出现的小样本(Small Sample Size,SSS)问题,提出二维典型相关分析(Two-Dimensional CCA,2DCCA)。首先阐述了2DCCA方法的基本原理并给出了类成员关系矩阵的构造方法,推导出了类成员关系协方差矩阵广义逆的解析解。其次,从理论上证明了2DCCA方法对于解决小样本问题的有效性。最后,利用人脸识别实验来测试该方法的性能,实验结果表明,2DCCA方法有效地解决了图像识别中常见的小样本问题,并且能取得较其他几种基于CCA的人脸识别方法更优的识别结果。
孙宁,宋莹,成伟明,等:二维典型相关分析在小样本图像识别上的应用 2010,46(5)179 源于两个著 验均在P43.0G 其中xx=22(x-X)(x-x)和x1=2∑(y-)y-)CP0,GB内存的条件下,使用 MATLAB70软件平台实现。 是样本数据矩阵X和类成员关系矩库Y的自协方差矩阵,Xn=41基于ORL人脸库的实验 ORL库共有400张112×92维的人脸图像,由40个人每人 x=∑∑(x-X)(y2-万)则是两个矩阵的互协方差矩阵。 10张图像组成。库中每人的10张图像在人脸姿态和面部细节 完成上述步骤后,可以求得特征向量矩阵(即典型相关基方面存在较大的差异。在2DCA方法中,类成员关系矩阵的维 向量)甲。从该矩阵中选取最大的若干个特征值对应的特征向数是(MxC)×(xN),当图像维数很高时会造成计算量过大。为 量构造投影矩阵W用于特征提取。假设输入一个大小为h×L 了降低计算量,将人脸图像缩小为28×23 首先验证2DCCA方法解决小样本问题的有效性。作为 的图像A,可以通过以下等式得到图像A的特征矩阵A为 比较,另外使用3种针对小样本问题的CCA方法:CCA+扰动、 A=W A (9)PCA+ CCA KPCA+CCA与2DCCA方法进行相同的实验。从 其中,如果从矩阵w中选取了d个向量,则矩阵投影W和特ORL库中对每个人分别随机挑选2,3,…,8张图像作为训练 征矩阵A的大小分别是h×d和d×l 样本,剩余的作为测试样本。使用4种方法按照以上策略进行 32矩阵Σ广义逆的解析解 10次实验,得到的识别率平均后如图1所示。由图可以看出, 2DCCA方法在每类样本数为2时便可获得85.2%的识别率 由式(4)可以看出,类成员关系矩阵Y及其自协方差矩阵Σy并且随着样本数的增加识别率不断提高至967%。以上结果说 通常是不满秩的,因此需要求解矩阵∑y的广义逆。由于矩阵Y明该方法在样本数量非常小的条件下仍然能够有效地提取判 和矩阵Σ的矩阵形式十分特殊,所以可以求解出矩阵∑广义别信息用于识别,并且在实验过程中没有遇到样本数据协方差 逆的解析解。根据文献15-161,求得矩阵∑的广义逆x为 矩阵奇异的情况,由此证明了2DCCA方法解决小样本问题的 有效性 hx(C-1)×h (10) 此外,图1结果还表明2DCCA方法能取得较其他3种方法 0×is(c1)0 (hxC)x(h×C) 的更优的识别性能。为了更深入地研究这个现象,进行了不同 其中,x=(1m)R,R1+M)为式(4)中矩阵z的自协方差特低数条件下种方法识别性能的比较在该实验中,每类随机 矩阵的广义逆。此处给出了X的结果。 略进行10次,获得的平均识别率如图2所示。因为由2DCA 332DCCA方法有效避免小样本问题的证明 方法降维得到数据是以矩阵形式表达的,而由其他3种方法得 传统CCA方法中,当样本数量小于样本维数时(N<h×1),到的降维数据以向量形式表达。所以图中特征数的含义对于 xx矩阵会出现病态奇异。这种情况被称为小样本问题。2DCCA2DCCA方法来说是低维数据矩阵的行数,而其他3种方法则是 方法中,采用矩阵形式表征样本图像x。对于样本图像,它的低维数据向量的维数由图2可以发现由2DCCA方法获得的 秩是ramk(x1)≤min(h,),则矩阵Xx的秩为 识别正确率明显高于其他3种方法,尤其在特征数较低的时候 表现得更加突岀。这是由于采用矩阵形式表征样本图像除获得 X)(x-X)≤(N-C)min(h,)(11)了图像的灰度信息外,还保留图像的空间信息,因此能取得较 其他3种以向量形式表征图像的方法更高的识别正确率。但 由上式可得当N≥C+1,即样本总数大于类数时矩阵Σx是,以矩阵形式表达的低维数据需要更多的内存开销进行存储, 就不会出现奇异。在实际图像识别应用中,这个不等式总是成因此2DCA方法在识别率上优势是以更大的存储开销为代价 立的。由此,证明了2DCCA方法可以有效地避免小样本问题的所获得的。 矩阵Σx奇异情况的出现。 4.2基于 Yale A人脸库的实验 该节使用 Yale a库进行人脸识别实验。 Yale a库共有165 4实验结果及分析 张144×116维的人脸图像,由15个人每人11张图像组成。库 利用人脸识别实验来测试2DCCA方法的性能。样本数据来中每人的11张图像在面部表情和光照条件方面存在较大的差 0.98 r 0.95 0.96 --!---- 马= 0.94 0.9 0.801 0.90 0.75 --+--1-- 0.88 0.70 E-2DCCA -E 2DCCA A+扰动 0.65 CA+扰动 0. PCA+CCA 0.60 PCA+CCA 0.82 --…-16- KPCA+CCA 055x---1--1-KPCA+CA 0.80 0.50 456789 每类训练样本数 特征数 图1ORL人脸库实验中4种方法在不同 图2ORL人脸库实验中4种方法在不同 训练样本数条件下得到的识别正确率 特征数条件下得到的识别正确率 1802010,46(5) Computer Engineering and Applications计算机工程与应用 0.95 0.95 r--- % 0.90 0.85 0.85 -E 2DCCA 0.80 H2DCCA CCA+扰动 CCA+扰动 .75} PCA+Cca ----1---- PCA+CCA - eKPCA+CCA -e KPCA+CCa 0.70 0.70- 12345678 468101214161820222426 每类训练样本数 特征数 图3YaeA人脸库实验中4种方法在不同 图4 Yale a人脸库实验中4种方法在不同 训练样本数条件下得到的识别正确率 特征数条件下得到的识别正确率 异。结合4.1节中的结果可以测试2DCCA方法在不同样本条件 University, Sweden, 1998 下的人脸识别性能。同样为了减小计算量,库中的样本图像被4 Yu S Direct blind channel equalization via the programmable canon 裁剪为36×29。 ical correlation analysis[J. Signal Processing, 2001, 81: 1715-1724 与41节相同,分别测试了4种方法在不同样本数和不同5 Becker S Mutual information maximization: Models of cortical self 特征数条件下的性能。实验结果如图3和图4所示。图中结果 organization(JNetwork: Computation in Neural Systems, 1996, 7: 7-31 显示,实验中2DCCA方法在小样本条件下仍然可以获得良好 6 Melzer T, Reiter M, Bischof HAppearance models based on kernel 的性能,并且取得较其他3种方法更优的识别正确率。此外,通 canonical correlation analysis[J). Pattern Recognition, 2003, 36: 1961 过ORL库和 Yale a库的实验,可以看出2DCCA方法对样本图 [7 Sun Q, Zeng S, Liu Y, et al. A new method of feature fusion and 像中人脸姿态、面部表情以及光照条件的变化并不敏感,具有 ts application in image recognition[J). Pattern Recognition, 2005, 38 很强的鲁棒性。 2437-2448. [8 Zheng W, Zhou X, Zou C, et al.Facial expression recognition usin 5结论 Kernel Canonical Correlation Analysis(KCCA )[J].IEEE Trans on 针对人脸识别应用中经常出现的小样本问题,提出了一种 Neural Networks. 2006. 17(1): 233-238 称为二维典型相关分析的改进的有监督学习方法。该方法与传[9 Friedman J Regularized discriminant analysis小 J Am Statist Assoc, 统CCA方法的最大区别之处在于2DCCA直接使用原始图像 1989,84(405):65-175 矩阵进行特征提取,而不需要对图像进行矩阵到向量的拉直处10 Hong z Q, ang J YOptimal discriminant plane for a small nu- 理。正是这种以矩阵形式对样本图像的表征可以有效地避免样 ber of samples and design method of classifier on the plane[JI 本协方差矩阵病态奇异问题的出现,从而使得小样本问题可以 Pattern Recognition, 1991,24(4): 317-324 得到有效的解决。同时,由于在降维过程中更多的信息被保留, [11] Chen L F, Liao H Y M, Ko M TA new LDa based face recog- 基于2DCCA方法所获得的识别率应该优于基于传统CCA方 nition system which can solve the small sample size problem[JI Pattern Recognition. 2000.33:1713-1726 法得到的正确率。为了验证以上的分析,将2DCCA分别应用于 [12] Yang J, Yang J Y. Why can LDa be performed in PCA trans- OHL和 Yale A这两个著名的人脸数据库进行人脸识别实验。 formed space? [J]. Pattern Recognition, 2003, 36(2): 563-566 从实验结果可以清楚地看到2DCCA方法确如分析的那样,不13 Yang J, Zhang d, Frangi A F, et al.Ty wo-dimensional pca:a new 仅可以有效地解决小样本问题,而且识别性能也高于其他几种 approach to appearance based face representation and recogni 基于CCA的方法。 tion[J.IEEE Trans PAMI, 2004, 26(1): 131-137 [14] Li M, Yuan B Z.2D-LDA: A statistical linear discriminant analy- 参考文献: sis for image matrix[JI. Pattern Recognition Letters, 2005, 26: 527 [1] Hotelling H.Relations between two sets of variates [J]. Biometrika 532. 1936,28:321-377 [15 Barker M Partial least squares for discrimination[D]. University of 2]boRgaM.canOnicalcorrelationAtutorial[eb/ol].(2001).http://www Kentucky, 2000 nt. liu. se/magnus/cca/2001 [16] Graybill F A Theory and application of the linear model[M I [3] Borga M Learning multi-dimensional signal processing[D]. Linkoping Wadsworth and Brooks/Cole: Pacific Grove. CA. 1976: 31-33

...展开详情
试读 4P 论文研究-二维典型相关分析在小样本图像识别上的应用.pdf
立即下载 低至0.43元/次 身份认证VIP会员低至7折
抢沙发
一个资源只可评论一次,评论内容不能少于5个字
weixin_38743506 你的留言是对我莫大的支持
2019-09-13
  • 至尊王者

    成功上传501个资源即可获取
关注 私信 TA的资源
上传资源赚积分,得勋章
最新推荐
论文研究-二维典型相关分析在小样本图像识别上的应用.pdf 15积分/C币 立即下载
1/4
论文研究-二维典型相关分析在小样本图像识别上的应用.pdf第1页

试读结束, 可继续读1页

15积分/C币 立即下载 >