机器学习-白板推导系列-前17讲笔记.pdf

所需积分/C币:34 2019-08-23 13:45:06 10.94MB PDF
136
收藏 收藏
举报

Notes for machine learning algorithm prove and details
xM2e北y概知补元 z次鬯, 高斯締 Shulna008 5 xe, Y v 2=V∧W,W-w=1,A=91(),V(u..4rp 入-01/ 2:的 入;C i W 年·6/件中收(取 认“小)W (x-)z(x-1):3纸晚(x与K 2认x;W z=1,离欧爪离 E=(AD少=y1U=yA →q(),, 令.y 2△: y 认元 A(21(x QP3(x中) =(x 欖知说 收y△ 高斯分 XER, Y z:VAU,*W-129, △=(2(x+ x=xP826nz的 4听/ :=(-) (-)2(x1):马(75间1 x 2:1,9=数人 h=2△=+ →P+9 1 子个 人 样(x 餐问性 M →z哨线 刈2 定2知X∽M(K2):级 高斯帝 ER’,1V x y=对4 616:“6 1%=( 结论yN(A+,AEA K266n-6 A A 6-6P/ E‰J=Cl40) 属人2不…例列9:Ex4E2+ F APtB 已 a K 「zaE VarY]= VarLAx+B]. mtM= K b食 24 Vardar]+ VarLBJ (y) 24 [刘A A oP(Xb),P(xalx6) M13.2a l Hb xba= Xb-2ba Eaa xa xbla 鼠强一PL 不 Wba= pp-Eba Eaa Ha Xb-7b-a =222E1 Mxx7=如u=5 xb=(-242 xs/xbIXa nN(atZuaia'XA, zic / 222 x(2+树女个褪补色 AvaRice matix 高斯分 shuhuaolora (x,y) xER, YV ELLEx .ly-Ecy 166“的 =El(x-P(y-AX-bl] x P v &Ix N与=x+E18 ELLx+(Aztbte-AN-W EMNlO, L EE[(+CAX-AH+E /H fp=z Zaa ab ELy1=ECAX+b+E]=ECAX+teLS E[(+1(Ax+(叫E2 K 2/ AN+b Var[y]Varl :Var[ Ax+b]+ Vav E[(x+[“2 点:2x),Pxx A-AA+L E[(x样1A4x )=NP 2ac 矿∽M(P+t,∠“+A8 =E[的y(y47 P(xbla]=M Fba, Eb-a) M-a=Pb-2b22aa Pa 引1Lc+M)二E++8 2=2b-E52 Vale 的 xy)∽ 理:xM风 则」∽MA+BAZ 假俊这f是 lensen's Ineyuauy 1d)2f小 ) 证 a c 两EE i ax+b] t∈0 c:tat(lt) E[刘 E[]+ b 2(执 3线性回归( Linear Regression) 9线性01Xm ER,乐ER,以M =Wxxx丫 X Ⅹ (%1 =W×xW-2Wx+Y )y%-,=a9wy =Wx W 豪2计 W 2XXw -2XY= L(M)x-:1 W'x 2 伪逆 2(Wx =W X=x r 小 x1“y1 W'Y WX2 入 WIx x)-(y 少, X w 6ML 线性园 noise is Causi: uD:H) 7=1:x别,…(x、引 x;∈R’转∈R,2,M x……x )+ y 成6 Ⅹ=(xx,…刈=x f0 w'x x:W Wx 最小z货计 阿K 二 纠 N 2W6 ↓+y(2 (xxx. W=argmax argmalx-26 Q7mn(y:·Wx Loss Function: L(w)=Zwx:-yoill 线性园怛 (××)1xY< =2‖wx-"+入 心 m,M个样*,xR =wx-丫)(×w-¥)+入wW N→ s WxXw ]WxY +y'r +xwIw 和数 过认合一→/似报取 =W(xx+1)W-2Wx+Y丫 匹则化 W=argm 匹则化栀架 aryMyLCW)+xpl 20=2x+xw-2XY=0 penalty W=(Xx+x1X'Y acso W)〓 2R岭时9m =Jlwll,=ww hh:08 叵则化架 线性国忸 Llw)t xPlw fuwl=w 和Hm wr +E:W'x+E W÷a9作叫 EM(0.6) yx nN(w'x. 6 y 61 Jw=其{x-”+Xw 贝叶斯筱 )二x W: amg min j(w=(X'X+I)XY W i wco, 60)- y,y(w6二面 最小结计极太然代计 LE>ME[m为m y0y网 12 网96NMA(m为街 (prior 4p, ist) s arq max :900x w ra 26 =a9 mrin gu1-w )'t& 4线性分类 Linear Classification Linear classification 线性分炎 频穿旅→统计机器1 风叶剡派→概辛阏型 试是挣传图 0性 种性数 餐抖线性 fisher hear Regression 全性→线性样,失常树 f.b=w女+b 线性类{知机 ZER 类(生线成式:减 (教积、x1流形 把mJ/ LD. yeLaIJ 公)线性分类 线性归0 acti 10 Linear classificati on 感知机 线性分类 D数祥线性分类 3f4线性别分() 硬输沈 °样的x: 范机 M 软输出 周:错氓驱幼 Pu小y W小+(生茂:2w0间 模型:f(x)=597Cw2x),x∈R),W乐R chet aerith Signals 十,a<0 答略myhm L L=-yixi ( w"+ Xy:X 线性列利分折 X4 X=(x,X, "x)=x 分米 人 Jw, 0 ,1 0 x1第x (元·小=W12x) 分母=了+5 Zi= W'x |]cI=N, 1x=N. M, MN X N Z==2W'% 叉想类内小类间大 (/-(2;-g 福国数女:J则) W+x)( :(W S1+ W=argmax jlw C;=0 1x, -)lUxi G=云 分母= W'S,w+ w51W 2(Wx-2 美间(2 W Lx-x (4- 类内:51+ 线性列别分析 Linear classificati pn =(x,x,x) 线性分类 人人x的 丫=( S(又x)x邓 0 ER,臼{ /=SC tSce Jlw) s,w- ws wwSw ww zi= Wiu 12- =N, I]ca=N. N, +N=N 2)c0=2w V'SwwtW'sw ( 2;一W7 0 想:类内小类间大 WswW=O S w 生;:E1( 高内案松耦合 M W w= 2(;-2)(nk W-w'sbw Cx:21 W(X-xcr 〔+5a)W S5, -ia) 类间1(2动 类内x+ S5: between-class类间件 类内接1 啪奇向*51 城K (9 线性分 态知机( 受輸出 以,印 利km 概楼型2的 270,Wm6(1 2→0,80g: mk始软输出 gaussian Vistnimil 2→,Lwn6W 花生袭 6:R+s t w+(9((xp 款 :91w+x, nt时 :p9y- findin(m H WW: an discrimIna地Ana you Linear claijfica ti D k:09线性分类 感知机(4+ 硬输出 线性分美 性列别分析( 率利楼型 炊输出 y∽ Bernoulli(→ 概生成型貌 1y=1(,2) Qive koyes x1 y=on NLp, 2) N,习 寓敬) 减:19小 0=(A2 979 1P+9P 词 生(+ 凵/ ear Clas计1 cation 七r(46)=tBA) R1小m线性分类 OA 中:②若+两 IAl. A1 (+ anaL y A 品长(-的 4s(2x 小∽ les nulla(叫 29-=0 生(x22 x!1M(,2 1 1|=0-MK2 82=-2(2x+2)=0 m-kehw减:mny (- z:(2-2x)=0 T Plx Ex)=0 岁三x 求 长x =ar y=l: N :M2 N=M+2

...展开详情
试读 42P 机器学习-白板推导系列-前17讲笔记.pdf
立即下载 低至0.43元/次 身份认证VIP会员低至7折
一个资源只可评论一次,评论内容不能少于5个字
您会向同学/朋友/同事推荐我们的CSDN下载吗?
谢谢参与!您的真实评价是我们改进的动力~
上传资源赚钱or赚积分
最新推荐
机器学习-白板推导系列-前17讲笔记.pdf 34积分/C币 立即下载
1/42
机器学习-白板推导系列-前17讲笔记.pdf第1页
机器学习-白板推导系列-前17讲笔记.pdf第2页
机器学习-白板推导系列-前17讲笔记.pdf第3页
机器学习-白板推导系列-前17讲笔记.pdf第4页
机器学习-白板推导系列-前17讲笔记.pdf第5页
机器学习-白板推导系列-前17讲笔记.pdf第6页
机器学习-白板推导系列-前17讲笔记.pdf第7页
机器学习-白板推导系列-前17讲笔记.pdf第8页
机器学习-白板推导系列-前17讲笔记.pdf第9页

试读结束, 可继续读4页

34积分/C币 立即下载