没有合适的资源?快使用搜索试试~ 我知道了~
温馨提示
试读
4页
为了能够提升分解矩阵的稀疏表达能力, 提出了一种新的基于平滑l0范数的正交子空间非负矩阵分解方法。通过将分解矩阵的正交性及平滑l0范数约束同时引入矩阵分解的目标函数中一起进行优化, 大大降低了计算复杂度, 并提升了分解矩阵的稀疏表达能力。同时给出了分解矩阵的乘积更新迭代规则。通过在三个真实数据库(Iris, UCI, ORL)上的实验表明, 该方法在分解所得矩阵的稀疏表示方面及将其应用于聚类问题所取得的聚类效果方面优于其他方法。
资源推荐
资源详情
资源评论
书书书
收稿日期:20120627;修回日期:20120730 基金项目:国家自然科学基金资助项目(60632050,60873151);国家“863”高技术研究发
展计划资助项目(
2006AA01Z119)
作者简介:叶军(1981),男,博士研究生,主要研究方向为人工智能与模式识别(yj8422092@163.com);金忠(1961),男,教授,博导,博士,主
要研究方向为模式识别、人脸识别、机器学习、计算机视觉.
基于平滑 l
0
范数正交子空间非负矩阵分解
叶 军
1,2
,金 忠
2
(1.南京邮电大学 理学院,南京 210046;2.南京理工大学 计算机科学与技术学院,南京 210094)
摘 要:为了能够提升分解矩阵的稀疏表达能力,提出了一种新的基于平滑 l
0
范数的正交子空间非负矩阵分解
方法。通过将分解矩阵的正交性及平滑 l
0
范数约束同时引入矩阵分解的目标函数中一起进行优化,大大降低了
计算复杂度,并提升了分解矩阵的稀疏表达能力。同时给出了分解矩阵的乘积更新迭代规则。通过在三个真实
数据库(Iris,UCI,ORL)上的实验表明,该方法在分解所得矩阵的稀疏表示方面及将其应用于聚类问题所取得的
聚类效果方面优于其他方法。
关键词:非负矩阵分解;正交性;聚类;稀疏表示;l
0
范数
中图分类号:TP391 文献标志码:A 文章编号:10013695(2013)0376803
doi:10.3969/j.issn.10013695.2013.03.032
Smoothedl
0
normconstrainednonnegativematrix
factorizationonorthogonalsubspace
YEJun
1,2
,JINZhong
2
(1.SchoolofNaturalSciences,NanjingUniversityofPosts& Telecommunications,Nanjing210046,China;2.SchoolofComputerScience&
Technology,NanjingUniversityofScience&Technology,Nanjing210094,China)
Abstract:InordertoimprovetheabilityofthesparserepresentationsoftheNMF,thispaperproposedthenewalgorithmfor
nonnegativematrixfactorization,denotedsmoothedl
0
norm constrainednonnegativematrixfactorizationonorthogonalsub
space
,inwhichthegenerationoforthogonalfactormatriceswithsmoothedl
0
normconstrainedwerethepartsofobjectivefunc
tionminimization.Alsoitdevelopedsimplemultiplicativeupdatesfortheproposedmethod.Experimentsonthreerealworld
databases(Iris,UCI,ORL)showthattheproposedmethodcanachievethebestorclosetothebestinclusteringandinthe
wayofthesparserepresentationthanothermethods.
Keywords:NMF;orthogonality;clustering;sparserepresentation;l
0
norm
!
引言
非负矩阵分解(nonnegativematrixfactorization,NMF)在计
算机视觉、信号处理等研究领域的应用已经受到广泛的关注,
其主要原因在于 NMF稀疏的描述使对数据的解释变得方便,
且其纯加性的描述使对数据的分析显得合理。
NMF通过将 非 负 矩 阵 V分 解 为 两 个 非 负 矩 阵 的 乘 积
WH。由于分解后的矩阵中仅包含非负元素,因此原矩阵中列
向量可解释为对左矩阵 W 中所有列向量(称为基矩阵)的加
权和,而权重系数为右矩阵 H中对应列向量中的元素(称为系
数矩阵)。尽管主成分分析(PCA)和独立成分分析(ICA)能提
取数据特征,但它们只能提取整体的特征,而且对数据进行描
述时允许减性数据的描述方式,即允许负系数存在。NMF不
但能够提取数据的部分特征,而且通过提取的部分特征对原数
据进行纯加性的线性组合来进行描述
[1,2]
。Lee等人
[3]
提出了
非负矩阵分解算法(NMF算法),利用乘积更新规则,不断地对
矩阵 W 和 H进行迭代更新,直到满足终止条件为止,算法简
单,但所得矩阵并不一定总是能够产生基于部分表示的结果,
这就使得利用分解所得矩阵在进行聚类问题研究的过程中带
来一定的困难。在进行聚类问题的研究过程中,Yang等人
[4]
指出,正交性的约束能够很大程度上提升聚类效果,其本质在
于给 NMF加上正交性(如 W
T
W =I)约束后,使原数据分解后
所得到的非负矩阵稀疏性增强,从而使得表征原有数据的基之
间的区别进一步增强,故用此基来进行聚类时可以大大提升聚
类的效果
[5]
。虽然正交性的约束能够提升聚类效果,但在进
行矩阵优化分解的过程中带来的计算量也是十分巨大的。因
此,
Li等人
[6]
提出了基于正交子空间的非负矩阵分解,将对 W
的正交性约束(或对 H)作为非负矩阵分解的目标函数中的一
部分直接进行优化,此时在进行分解的过程中不但能够减少优
化过程中的计算量,同时对提升基矩阵(系数矩阵)的稀疏能
力也有一定的作用。
所谓用稀疏基来表示原有数据就是用最少的基来表示原
有数据矩阵,即要求基矩阵 W 中非零元素最少。这就相当于
要求在分解的过程
‖
W
‖
0
达到最小,其中
‖
·
‖
0
为 l
0
范数,
其值为 W 中非零元素个数,能够表示 W 的稀疏程度。通常求
解上述问题的手段是采用基追踪(basicpursuit,BP)
[7]
的方
法,该方法用最小 l
1
范数解逼近 l
0
范数解,并且可以采用线性
规划的方法求解,但这种方法的复杂度很高,运算速度也很慢。
第 30卷第 3期
2013年 3月
计 算 机 应 用 研 究
ApplicationResearchofComputers
Vol30No3
Mar2013
资源评论
weixin_38514501
- 粉丝: 3
- 资源: 919
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功