机器学习算法总结21
需积分: 0 16 浏览量
2022-08-03
18:16:52
上传
评论
收藏 1.95MB PDF 举报
机器学习算法总结2
6.朴素贝叶斯
参考文章：
《统计学习方法》
机器学习常见算法个人总结（面试用）
朴素贝叶斯理论推导与三种常见模型
朴素贝叶斯的三个常用模型：高斯、多项式、伯努利
简介
朴素贝叶斯是基于贝叶斯定理与特征条件独立假设的分类方法。
贝叶斯定理是基于条件概率来计算的，条件概率是在已知事件B发生的前提下，求解事件A发生的概率，即
，而贝叶斯定理则可以通过 来求解 ：
其中分母 可以根据全概率公式分解为：
而特征条件独立假设是指假设各个维度的特征 互相独立，则条件概率可以转化为：
朴素贝叶斯分类器可表示为：
而由于对上述公式中分母的值都是一样的，所以可以忽略分母部分，即可以表示为：
这里 是先验概率，而 则是后验概率，朴素贝叶斯的目标就是最大化后验概率，这等价于期望风险最小
化。
参数估计
极大似然估计
朴素贝叶斯的学习意味着估计 和 ,可以通过极大似然估计来估计相应的概率。
剩余23页未读，继续阅读
评论0