python 代码实现k-means聚类分析的思路(不使用现成聚类库)

Python中的K-means聚类分析是一种无监督学习方法，用于将数据集中的对象分组成不同的类别，使得同一类别的对象间相似度较高，而不同类别间的相似度较低。本篇文章探讨的是如何不依赖现成的聚类库（如scikit-learn）手动实现K-means算法。 ### 一、实验目标 1. 应用K-means模型进行聚类，通过改变类别个数K，观察并分析聚类效果。 2. 将数据集按8:2的比例随机划分为训练集和测试集，尝试不同的K值，对比不同模型在训练集和测试集上的损失函数平方和（SSE，Sum of Squared Errors），寻找最佳的K值。 ### 二、算法原理 K-means算法的基本步骤如下： 1. 初始化：随机选择K个质心（centroid）作为聚类中心。 2. 聚类：根据每个数据点与质心之间的欧氏距离，将数据点分配到最近的类别。 3. 更新：计算每个类别中所有数据点的均值，作为新的质心。 4. 重复步骤2和3，直到质心不再显著变化或达到预设的迭代次数。 伪代码： ```python num = 10 # K的种类 for k in range(1, num): 随机选择k个质点 for i in range(n): # 迭代n次 对X_train进行聚类 更新质心 计算SSE_train 计算SSE_test ``` ### 三、代码实现 1. 导入所需库：`pandas`、`matplotlib.pyplot`、`numpy` 和 `sklearn.model_selection`。 2. 定义计算距离的函数 `distance(p1, p2)`，使用欧氏距离公式。 3. 定义计算类别均值的函数 `means(arr)`，计算类别内所有点的均值坐标。 4. 处理二维数据：读取数据，将数据分离为'x'和'y'列，将数据转换为数值格式。 5. 数据集划分：使用`train_test_split`函数按照8:2比例划分训练集和测试集。 6. 主要聚类实现： - 遍历K值，初始化质心。 - 迭代n次，对训练集和测试集执行聚类、更新质心并计算SSE。 - 存储每个K值对应的训练集和测试集SSE，以便后续分析。 ### 四、代码细节 - 在处理二维数据时，通过`pd.read_table`读取数据，`split()`函数处理逗号分隔的数据，将数据点分离为'x'和'y'列。 - 使用`train_test_split`函数，设置`test_size=0.2`和`random_state=1`，确保每次运行时都能得到相同的结果。 - 在聚类过程中，每次迭代后更新质心，计算类别均值，并根据新质心重新分配数据点。 ### 五、K值的选择 最佳K值的选择通常依赖于对数据集的理解以及对聚类结果的期望。通过绘制肘部法则图（肘部法是根据SSE随K增加的变化趋势来选择合适的K值）或轮廓系数图，可以帮助确定最佳的K值，即SSE下降速度最慢或者轮廓系数最大的那个点。 总结，手动实现K-means聚类分析的关键在于理解其核心步骤：初始化质心、计算距离、聚类分配和质心更新。在Python中，可以使用Numpy和Pandas等库高效地实现这些操作，同时结合数据可视化工具如Matplotlib来帮助理解聚类结果。