马尔科夫链蒙特卡罗-effective akka

11.2 马尔科夫链蒙特卡罗 前⼀节中，我们讨论了计算函数期望的拒绝采样⽅法和重要采样⽅法，我们看到在⾼维空间 中，这两种⽅法具有很⼤的局限性。因此，我们在本节中讨论⼀个⾮常⼀般的并且强⼤的框 架，被称为马尔科夫链蒙特卡罗（Markov chain Monte Carlo, MCMC），它使得我们可以从⼀⼤ 类概率分布中进⾏采样，并且可以很好地应对样本空间维度的增长。马尔科夫链蒙特卡罗⽅法 起源于物理学（Metropolis and Ulam, 1949），直到20世纪80年代，这种⽅法才开始对统计学领 域产⽣巨⼤的影响。 与拒绝采样和重要采样相同，我们再⼀次从提议分布中采样。但是这次我们记录下当前状 态z(τ)，以及依赖于这个当前状态的提议分布q(z | z(τ))，从⽽样本序列z(1), z(2), . . .组成了⼀个 马尔科夫链。与之前⼀样，如果我们有p(z) = p̃(z) Zp ，那么我们会假定对于任意的z值都可以计 算p̃(z)，虽然Zp的值可能位置。提议分布本⾝被选择为⾜够简单，从⽽直接采样很容易。在算 法的每次迭代中，我们从提议分布中⽣成⼀个候选样本z∗，然后根据⼀个恰当的准则接受这个 样本。 在 基 本 的Metropolis算 法 中 （Metropolis et al., 1953）， 我 们 假 定 提 议 分 布 是 对 称 的， 即q(zA | zB) = q(zB | zA)对于所有的zA和zB成⽴。这样，候选的样本被接受的概率为 A(z∗, z(τ)) = min ( 1, p̃(z∗) p̃(z(τ)) ) (11.33) 367