# 实现 k-means 聚类方法和混合高斯模型
## 实验目的
实现一个 k-means 算法和混合高斯模型,并且用 EM 算法估计模型中的参数。
## 一、实验要求及实验环境
### 实验要求
- 测试:用高斯分布产生 k 个高斯分布的数据(不同均值和方差)(其中参数自己设定)。
- 用 k-means 聚类,测试效果;
- 用混合高斯模型和你实现的 EM 算法估计参数,看看每次迭代后似然值变化情况,考察 EM 算法是否可以获得正确的结果(与你设定的结果比较)。
- 应用:可以 UCI 上找一个简单问题数据,用你实现的 GMM 进行聚类。
### 实验环境
OS: Windows 11
Python: 3.7.9
## 二、设计思想
### 2.1 -means 算法
![](https://www.writebug.com/myres/static/uploads/2022/9/6/98ad2e102d969204e2065c39e4731f44.writebug)
### 2.1.1 混合高斯模型(GMM)
定义高斯混合分布:
其中
![](https://www.writebug.com/myres/static/uploads/2022/9/6/13794242312e357eae4db72951397b3f.writebug)
![](https://www.writebug.com/myres/static/uploads/2022/9/6/ac4f735aa3e777295b25639fe3900850.writebug)
![](https://www.writebug.com/myres/static/uploads/2022/9/6/9830bfec84b1942863e81d15a1fa33f3.writebug)
![](https://www.writebug.com/myres/static/uploads/2022/9/6/882c0df5426fe9f1de661dcabb2618b0.writebug)
![](https://www.writebug.com/myres/static/uploads/2022/9/6/ce5a5e0a5baed1dfd5127cf2e034389b.writebug)
## 三、实验结果分析
### 3.1 生成数据
![](https://www.writebug.com/myres/static/uploads/2022/9/6/ba295d19c811ff92c30885188d7a2ca4.writebug)
#### 3.1.1 -means 算法
设置精确度为 ,算法最大轮数为 50,结果如下:
![](https://www.writebug.com/myres/static/uploads/2022/9/6/6d1b915539091436cff23020f0daf388.writebug)
#### 3.1.2 GMM
![](https://www.writebug.com/myres/static/uploads/2022/9/6/8505a61d062413146099f81f2b3be909.writebug)
迭代次数为 ,准确率为 在迭代 48 次后收敛,收敛速度快,准确率高。
#### 3.1.3 UCI 数据集
![](https://www.writebug.com/myres/static/uploads/2022/9/6/073cb190f3245801d403960d9360859b.writebug)
在 UCI 数据集上,可以看出 GMM 算法比 k-means 准确率更高,但收敛速度较慢
## 四、结论
k-means 算法较易理解与实现,在简单数据集上收敛较快;
GMM 的实现复杂,推导繁琐,在各种数据集上都能取得良好的效果,但收敛速度较 k-means 缓慢。
## 五、参考文献
《机器学习》
没有合适的资源?快使用搜索试试~ 我知道了~
温馨提示
实现一个 k-means 算法和混合高斯模型,并且用 EM 算法估计模型中的参数。GMM 的实现复杂,推导繁琐,在各种数据集上都能取得良好的效果,但收敛速度较 k-means 缓慢。k-means 算法较易理解与实现,在简单数据集上收敛较快;
资源推荐
资源详情
资源评论
收起资源包目录
100011737-基于Python实现 k-means 聚类方法和混合高斯模型.zip (8个子文件)
means
1190200501-林燕燕-实验3.pdf 457KB
Code
Gmm.py 3KB
bezdekIris.data 4KB
k_means.py 2KB
data.py 1KB
uci.py 874B
LICENSE 1KB
README.md 3KB
共 8 条
- 1
资源评论
- m0_749614562024-02-06资源很赞,希望多一些这类资源。
神仙别闹
- 粉丝: 2674
- 资源: 7640
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功