44_PCA算法原理1
需积分: 0 198 浏览量
2022-08-03
13:05:58
上传
评论
收藏 1.29MB PDF 举报
PCA
算
法
原
理
主
成
分分
析
（
Components Analysis
，
PCA
）
是
机
器
学
习
中
最
经
典
的
降
维
⽅
法
，
也
是
⾯
试
中
的
家
常
便
饭
，
因
⽽
有
必
要
认
真
梳
理
⼀
遍
PCA
的
原
理
，
甚
⾄
需
要
⼿
动
推
导
⼀
遍
。
PCA
算
法
原
理
数
据
降
维
PCA
概
念
PCA
之
最
⼤
可
分
性
（
最
⼤
⽅
差
）
最
⼤
化
⽅
差
公
式
推
导
PCA
求
解
过
程
总
结
PCA
之
最
近
重
构
性
（
最
⼩
平
⽅
误
差
）
最
⼩
化
平
⽅
误
差
优
化
⽬
标
PCA
求
解
过
程
总
结
PCA
的
优
缺
点
总
结
参
考
资
料
数
据
降
维
在
理
解
PCA
的
概
念
之
前
，
我
们
先
来
认识
⼀下
什
么
是
数
据
降
维
。
降
维
就
是
⽤
低
维
度
的
向
量
来
表
⽰
原
始
⾼
维
度
的
特
征
。
例
如
：
三
维
空
间
中
分
布
在
同
⼀个
平
⾯
上
的
⼀
些
点
，
⽤
x,y,z
三个
轴
来
表
⽰
，
就
需
要
三个
维
度
；
⽽
实
际
上
，
因
为
这
些
点
是
分
布
在
⼀个
平
⾯
上
的
，
所
以
可
以
通
过
坐
标
系
的
旋
转
变
换
使
得
只
需
要
x,y
两个
轴
来
表
⽰
这
些
点
的
数
据
关
系
，
⽽
且不
会
有
任何
损
失
，
从
⽽
达
到
数
据
降
维
的⽬的
。
降
维
的
作
⽤
：
1.
增
⼤
样
本
密
度
，
可
以
缓
解
维
数
灾
难
2.
减
⼩
计
算
开
销
3.
去
噪
PCA
概
念
PCA
是
数
据
降
维
的
⼀
种
⽅
式
，
旨
在
找
到
数
据
中
的
主
成
分
，
并
利
⽤
这
些
主
成
分
来
表
征
原
始
数
据
。
简
单
地
说
，
就
是
将
n
维
的
特
征
映
射
到
k
维
上
（
k<n
），
这
k
维
的
正
交
特
征
，
就
是
主
成
分
。
⽤
周
志
华
的
《
机
器
学
习
》
书
上
的
话
来
理
解
就
是
：
对
于
正
交
特
征
空
间
中
的
样
本
点
，
如
何
⽤
⼀个
超
平
⾯
（
直
线
的
⾼
维
推
⼴
）
来
对
所
有
的
样
本
进
⾏
恰
当
的
表
达
？
如
果
存
在
这
样
的
超
平
⾯
（
我
的
理
解
就
是
由
k
维
特
征
重
构
出
的
主
成
分
），
那
么
它
应
该
具
有
这
样
的
性
质
：
①
最
⼤
可
分
性
：
样
本
点
在
这
个
超
平
⾯
上
的
投
影
尽
可
能
的
分
开
（
最
⼤
化
⽅
差
）
②
最
近
重
构
性
：
样
本
点
到
这
个
超
平
⾯
的
距
离
都
⾜
够
近
（
最
⼩
化
平
⽅
误
差
）
如
何
理
解
最
⼤
可
分
性
（
最
⼤
⽅
差
）
和
最
近
重
构
性
（
最
⼩
平
⽅
误
差
）
这
两
种
性
质
呢
？
以
及
怎
样
才
能
找
到
这
个
k
维
的
主
成
分
呢
？
下
⾯
分别
展
开
分
析
：
PCA
之
最
⼤
可
分
性
（
最
⼤
⽅
差
）
资源评论
