10.7 期望传播
在本章的最后⼀节，我们讨论确定性近似推断的另⼀种形式，被称为期望传播（expectation
propagation），或者EP（Minka, 2001a; Minka, 2001b）。与⽬前为⽌讨论的变分贝叶斯⽅法相
同，这种⽅法也基于对Kullback-Leibler散度的最⼩化，但是现在形式相反，从⽽得到了性质相
当不同的近似结果。
先考虑关于q(z)最⼩化KL(p ∥ q)的问题，其中p(z)是⼀个固定的概率分布，q(z)是指数族分
布的⼀个成员，因此根据公式（2.194），可以写成
q(z) = h(z)g(η) exp{ηTu(z)} (10.184)
346
