核PCA原理解析1
需积分: 0 93 浏览量
2022-08-03
11:42:07
上传
评论 1
收藏 709KB PDF 举报
核PCA原理解析
【参考资料】
核主成分分析（Kernel-PCA）
Kernel PCA
Kernel Principal Component Analysis
周志华 《机器学习》
1. PCA的缺陷
有些高维空间不适合PCA的线性降维方法，这时候就需要一些非线性降维的手段。
2. KPCA原理推导
Kernel PCA的基本思想是将原数据点非线性映射到高维空间，然后在高维空间中进行降维操作。
已知数据集为 ，其中 ， 。存在一个非线性映射 ，映射后的数
据集为 。PCA是在 中讨论的，那么KPCA就是在映射后的空间 中讨论的。一般情况
下，映射 是无法显式求解的，所以需要引入核函数 ，使得：
传统PCA中，我们要求解协方差矩阵及其特征值和特征向量，在KPCA中，我们需要求解的则是映射后的数据的协方
差矩阵及其特征向量：
为了讨论方便，令
评论0