最大似然估计与最大后验估计1
需积分: 0 5 浏览量
2022-08-03
13:41:23
上传
评论
收藏 377KB PDF 举报
最大似然估计与最大后验估计
0. 参考资料
主要参考如下：
周志华 《机器学习》第七章
CSDN@nebulaf91 详解最大似然估计（MLE）、最大后验概率估计（MAP），以及贝叶斯公式的理解
CSDN@段子手实习生 最大似然估计和最大后验估计（转）
1. 似然函数
在统计学中，似然函数和概率函数是两个不同的概念。
对于这个函数：
表示一个具体的数据， 表示模型的参数。
如果 是已知确定的， 是变量，这个函数就叫做概率函数，它描述在给定 的条件下，对于不同的样本点 ，其出现
概率是多少。
如果 是已知确定的， 是变量，这个函数叫做似然函数，它描述对于不同的模型参数，出现 这个样本点的概率是多
少。
2. 最大似然估计
最大似然估计（maximum likelihood estimation，MLE）是频率学派使用的参数估计方法。
回顾一下贝叶斯公式：
它代表的意义是：
顾名思义，最大似然就是要用似然函数取到最大值时的参数值作为估计值，似然函数可以写做：
连乘操作容易造成数值的下溢，通常对似然函数取对数，即最大化对数似然。于是最大似然估计问题可以写成：
资源评论
