gibbs采样笔记1
需积分: 0 110 浏览量
2022-08-08
21:31:34
上传
评论
收藏 126KB DOCX 举报
Roles（slots） overlap
图模型分享。Vae。注意力机制。
图模型的局部图。。
迪利克雷的后验即是偏观测向量。
大概可以理解为先观测了阿尔法-1 次。所以当阿尔法取 1 时是均匀分
布，阿尔法必须大于 0.。。在阿尔法小于 1 时会更偏 0，1 否则偏中
间。
Ooc，ool
现在我们总结下 LDA Gibbs 采样算法流程。首先是训练流程：
1） 选择合适的主题数 K, 选择合适的超参数向量 α ,η α→,η→
2） 对应语料库中每一篇文档的每一个词，随机的赋予一个主题编号 zz
3) 重新扫描语料库，对于每一个词，利用 Gibbs 采样公式更新它的 topic 编号，并更新语料库
中该词的编号。
评论0