【免费】第6次作业1资源-CSDN文库

需积分: 0 94 浏览量 2022-08-03 18:29:16 上传评论收藏 876KB PDF 举报

资源详情

资源评论

资源推荐

第6次作业

简答题

1. 请简述adaboost算法的设计思想和主要计算步骤。

答：adaboost是⼀种集成学习⽅法，它使⽤若⼲个弱学习器的线性组合构造⼀个精度更⾼的模型，其中弱学

习器是指性能稍⾼于随机猜测的模型。adaboost的主要思想是逐个训练若分类器，并提⾼前⾯分类器分类错

误的权重，最后将所有若分类器线性组合构成强分类器，线性组合的权重取决于弱分类器的错误率，错误率越

低，权重越⾼。

下⾯以⼆分类为例阐述adaboost的计算步骤。依次训练个弱分类器将个样本分成两类。

1. 初始化权重: 。

2. 从开始循环

1. 训练第个若分类器，⽬标是极⼩化误差函数 ,其中

上式中的表示第个弱分类器对第个数据的权重，在预测错误时取1，否则

取0。因此表示第个弱分类器对个数据错误率的加权平均。

2. 更新权重。按照下⾯的计算公式更新权重。易知，⽽是的单调递减函数。我们要

求弱分类器的错误率⽐随机分类好，即，则。当第个弱分类器将第个样本正

确时，，因此下⼀个分类器对此样本的权重不变；反之当错误分类

时，，即错分样本的权重变⼤。

3. 将个弱分类器线性组合，得到强分类器，计算公式如下

权重是错误率的单调递减函数，即错误率越⾼时，弱分类器的权重越⼩。

2. 请从混合⾼斯密度函数估计的⻆度，简述K-means聚类算法的原理（请主要⽤⽂字描述，条理清晰）；请给

出K-Means聚类算法的主要步骤；请说明哪些因素会影响K-Means算法的聚类性能。

答：⾼斯混合模型（GMM）实质多个单⾼斯模型的线性组合，理论上⾼斯混合模型可以拟合出任何类型的分

布。GMM常⽤于聚类，如果要GMM的分布中随机选取⼀个点，可以分成两步：⾸先随机从选择⼀个单⾼斯

模型，每个单⾼斯模型被选中的概率是。选好单⾼斯模型之后，再考虑从这个模型中选择⼀个点。将GMM

⽤于聚类时，本质是根据已有数据推断出GMM的概率分布。我们先假定GMM由K个单⾼斯模型组成，因此我

们需要推断K个成分各⾃的均值向量和协⽅差矩阵以及他们的权重。⽽K-Means是GMM的特殊情况，当

GMM中每个成分的协⽅差矩阵退化成对⻆阵且对⻆线上的元素很⼩的时候，样本之间的⻢⽒距离退化成欧⽒

本内容试读结束，登录后可阅读更多

下载后可阅读完整内容，剩余3页未读，立即下载

评论0

内容反馈

蔓誅裟華

粉丝: 20
资源: 304

最新资源

资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！点击此处反馈

feedback-tip