没有合适的资源?快使用搜索试试~ 我知道了~
资源推荐
资源详情
资源评论
LDA êÆl%
Rickjin(@“Ÿ), version 1.0
2013 c 2 8 F
Contents
0.1 mŸ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
0.2 ÛGamma¼ê . . . . . . . . . . . . . . . . . . . . . . . . . . 2
0.2.1 Gamma ¼ê)P . . . . . . . . . . . . . . . . . . . . . 2
0.2.2 Gamma ¼ê!ü . . . . . . . . . . . . . . . . . . . . . . 7
0.2.3 l‘©ÙGamma ©Ù . . . . . . . . . . . . . . . . . 10
0.3 @£Beta/Dirichlet©Ù . . . . . . . . . . . . . . . . . . . . . . . 13
0.3.1 giZ—@£Beta ©Ù . . . . . . . . . . . . . . . . . 13
0.3.2 Beta-Binomial Ý . . . . . . . . . . . . . . . . . . . . . 17
0.3.3 Dirichlet-Multinomial Ý . . . . . . . . . . . . . . . . . 21
0.3.4 Beta/Dirichlet ©Ù˜‡5Ÿ . . . . . . . . . . . . . . . 24
0.4 MCMC ÚGibbs Sampling . . . . . . . . . . . . . . . . . . . . . . 24
0.4.1 ‘Å[ . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
0.4.2 ê¼ó9Ù²-©Ù . . . . . . . . . . . . . . . . . . . . . 27
0.4.3 Markov Chain Monte Carlo . . . . . . . . . . . . . . . . . 31
0.4.4 Gibbs Sampling . . . . . . . . . . . . . . . . . . . . . . . . 34
0.5 ©ï . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37
0.5.1 Unigram Model . . . . . . . . . . . . . . . . . . . . . . . . 38
0.5.2 Topic Model ÚPLSA . . . . . . . . . . . . . . . . . . . . 42
0.6 LDA ©ï . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44
0.6.1 iZ5K . . . . . . . . . . . . . . . . . . . . . . . . . . . 44
0.6.2 ÔnL§©) . . . . . . . . . . . . . . . . . . . . . . . . . 46
0.6.3 Gibbs Sampling . . . . . . . . . . . . . . . . . . . . . . . . 49
0.6.4 Training and Inference . . . . . . . . . . . . . . . . . . . . 52
0.7 P . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53
1
0.1 mŸ
3Machine Learning ¥§LDA ´ü‡~^.{¡µLinear Discrim-
inant Analysis ÚLatent Dirichlet Allocation§3ùŸ©Ù¥·‚̇l%
´ö" LDA ´˜‡3©ï¥éͶ.§aquSVD, PLSA
.§Œ±^ufŠÂ©Û,3©ŠÂ©Û¥´˜‡ék^." éØ3
´§ù‡ .¥9êÆ•£k:õ§•)Gamma ¼ê§Dirichlet ©Ù§
Dirichlet-Multinomial ݧGibbs Sampling, Variational Inference, “d©
ï§PLSA ï, ±9LDA ©ï"
ùŸ©Ù̇8I§Ò´‰Ê3ÆSn)LDA .¥§I‡)˜
-‡êÆ•£"ýÖö´‰g,Šó? n! ÅìÆS! êâ÷••
󧓧‡ÖÃùŸ‰Ê§I‡êÆÄ:•£Äþ؇L•FWk)
5VÇ؆ênÚO6ùÖ"
©ÙIK!þ/l%0üi§ Ï•l%¿›Xgd! ØÕå! Œ±Uê1
˜§[!?nþ•J•kØî>/•¶,·•F"l%´ƒéN´n)§
=B¦´'uêÆl%"éu©¥?۵ا•Hu&·#L‡Æ
áÒrickjin, ½ö´e‡zhihuijin@gmail.com"
0.2 ÛGamma¼ê
0.2.1 Gamma ¼ê)P
ÆpêÆžÿ§·‚ÑÆSLXe˜‡•ƒk:ÛAGamma¼ê
Γ(x) =
Z
∞
0
t
x−1
e
−t
dt
ÏL©ÜÈ©•{§Œ±íÑù‡¼êkXe485Ÿ
Γ(x + 1) = xΓ(x)
u´éN´y²§Γ(x) ¼êŒ±¤´¦3¢ê8þòÿ§äkXe5Ÿ
Γ(n) = (n − 1)!
ÆSGamma ¼êƒ§õc±5·˜†kü‡¦¯µ
1. ù‡•ùo%ɘ‡¼ê§êÆ[´XÛé¶
2. • Û ½ ÂΓ ¼ ê ž ÿ§ Ø ¦ ù ‡ ¼ ê ½ Â ÷ vΓ(n) = n!
´Γ(n) = (n − 1)!
2
•C€˜]§uykØ©z]0Gamma ¼êuy{¤§
‡`˜Ù§I‡˜½êÆí§ù•´{‡`˜Ì‚"
1728c§xnâ3•ÄꊯK§Ï‚`Ò´rêÏ‘ú
ª½Âlê8Üòÿ¢ê8ܧ~Xê1, 4, 9, 16, ··· Œ±^ Ï‘úªn
2
g,Lˆ§=Bn •¢êžÿ§ù‡Ï‘úª•´ûнÂ" †*`
•Ò´Œ±é˜^²w-‚ÏLy = x
2
ÏL¤kê:(n, n
2
)ù:§
lŒ±r½Â3ê8þúªòÿ¢ê8Ü"˜Uxnâm©?n
¦S1, 2, 6, 24, 120, 720, ···, ·‚Œ±OŽ2!, 3!, ´ÄŒ±OŽ2.5!Qº·‚r
•Ð˜(n, n!):x3‹I¶þ§(¢Œ±w§N´xј^ÏLù
:²w-‚
Figure 1: ÏL(n, n!)-‚
xnâÃ{)ûù‡¯K§u´&žZ. d.ã|Ú¦33û
Z.ã|§duî.žÚûZ.ã|3˜¬§¦•Ïd•ù‡¯
K"î.u1729 c{)ûù‡¯K§dd—Γ ¼ê)§ž
î.•k22•"
¯ ¢ þ Ä k ) ûn! Š O Ž ¯ K ´ û Z . ã |§ ¦ u y§ X
Jm, nÑ´ê§XJm → ∞§k
1 · 2 · 3 ···m
(1 + n)(2 + n) ···(m − 1 + n)
(m +
n
2
)
n−1
→ n!
u´^ù‡Ã¡¦È•ªŒ±rn!½Âòÿ¢ê8Ü"~X§n = 2.5,
3
m vŒ§ÄuþªÒŒ±CqOŽÑ2.5!"
î.•ó,uyn! Œ±^Xe˜‡Ã¡¦ÈLˆ
h
2
1
n
1
n + 1
ih
3
2
n
2
n + 2
ih
4
3
n
3
n + 3
i
··· = n! (1)
^4•/ª§ù‡ªfnŒ±•
lim
m→∞
1 · 2 · 3 ···m
(1 + n)(2 + n) ···(m + n)
(m + 1)
n
= n! (2)
†>Œ±n•
1 · 2 · 3 ···m
(1 + n)(2 + n) ···(m + n)
(m + 1)
n
=1 · 2 · 3 ···n ·
(n + 1)(n + 2)m
(1 + n)(2 + n) ···m
·
(m + 1)
n
(m + 1)(m + 2) ···(m + n)
=n!
(m + 1)
n
(m + 1)(m + 2) ···(m + n)
=n!
n
Y
k=1
m + 1
m + k
→ n! (m → ∞)
¤±(1)!(2)ªÑ¤á"
î.m©}Ál˜{ü~fm©‰˜OŽ§ww´Äk5ƌ̧
î.4Ùò•êÆ*†8B" n = 1/2 žÿ§‘\(1)ªOŽ§n
α
1
2
! =
r
2 · 4
3 · 3
·
4 · 6
5 · 5
·
6 · 8
7 · 7
·
8 · 10
9 · 9
···
,m>ÐÚͶWallis úª'é"Wallis 31665c¦^Š•{OŽŒ
-‚y =
p
x(1 − x) e¡È(•Ò´†»•1Œ¡È)žÿ§'
uπXe(J§
2 · 4
3 · 3
·
4 · 6
5 · 5
·
6 · 8
7 · 7
·
8 · 10
9 · 9
··· =
π
4
u´§î.|^Wallis úªXe˜‡é¤(J
1
2
! =
√
π
2
î.ÚpdÑ´äk‡…†úêÆ[§´î.Úpdº‚» É" p
d´‡Pk§êÆþš~î>§uL(Jžÿ%Ñrg•è,!§•
3e¤(J§ùç—˜êÆ[épd1µ¶î.º‚ØÓ§²
~ÏL²†ú‰Œÿßÿ§¦©Ù¥ 3e¦XÛ‰êÆߎè
,§©ÙkžÿØyØî>" .Ê.dQ`Lµ0ÖÖî.,¦´¤k<
4
剩余54页未读,继续阅读
资源评论
- 步不离2019-09-25整理的不错
Hearthougan
- 粉丝: 726
- 资源: 77
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
最新资源
- 奥迪A8D4仪表开机报文
- apache-skywalking-java-agent 8.8.0-9.2.0,一共12个版本
- DTS7001-VB一款SOT23封装P-Channel场效应MOS管
- ZTE-C300 OLT常用命令
- 6666666666666666
- DTS6410-VB一款SOT23封装N-Channel场效应MOS管
- SpyGlass-PowerVerifyMethodology-GuideWare2.0-UserGuide
- DTS6401-VB一款P-Channel沟道SOT23的MOSFET晶体管参数介绍与应用说明
- 基于树莓派、OpenCV及Python语言的人脸识别-i
- 游戏开发 UE蓝图 分支(Branch)节点和源码.pdf
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功