kmodes：k模式和k原型聚类算法的Python实现，用于聚类分类数据

共30个文件

py：20个

md：2个

csv：2个

python

scikit-learn

clustering-algorithm

k-modes

需积分: 47 149 浏览量 2021-02-04 10:10:42 上传评论 1 收藏 36KB ZIP 举报

**kmodes：k模式与k原型聚类算法的Python实现** 在数据分析领域，聚类是一种无监督学习方法，常用于发现数据集中的自然群体或类别。`kmodes` 是一个 Python 库，专门用于处理包含分类变量的数据集，提供 k 模式（k-Modes）和 k 原型（k-Prototypes）两种聚类算法。这两种算法是针对非数值型数据或混合数值型和分类型数据的扩展，弥补了传统 k-均值算法在处理这类数据时的局限性。 **1. k-模式（k-Modes）** k-模式算法是针对分类变量的 k-均值变种。在 k-均值中，我们寻找的是数据点之间的欧几里得距离最小化，而 k-模式则计算基于分类属性的汉明距离。汉明距离衡量的是两个字符串（或分类变量向量）对应位置的不同字符（或类别）数量。k-模式算法适用于只有分类变量的数据集，它通过迭代更新类别中心，使得每个类别内的数据点具有最小的汉明距离。 **2. k-原型（k-Prototypes）** k-原型算法是 k-模式的扩展，可以同时处理数值型和分类型数据。它结合了 k-模式的分类属性处理和 k-均值的数值属性处理。对于数值属性，它使用欧几里得距离；对于分类属性，它使用汉明距离。这种方法使得在有混合类型数据的场景下也能进行有效的聚类。 **3. kmodes 库的使用** `kmodes` 库在 Python 中易于使用，其 API 设计类似于 scikit-learn。我们需要导入 `KModes` 类，然后初始化模型实例，指定聚类数量（n_clusters），并调用 `fit_predict()` 方法对数据进行聚类。库还提供了 `fit()` 方法来拟合数据，并返回模型对象，可以通过 `cluster_centers_` 属性查看聚类中心。 ```python from kmodes.kmodes import KModes # 假设 X 是我们的数据集 model = KModes(n_clusters=3) labels = model.fit_predict(X) ``` **4. 参数调整与评估** 与任何其他聚类算法一样，k-模式和 k-原型也需要适当的参数调整，例如选择合适的聚类数量（n_clusters）。可以使用轮廓系数、Davies-Bouldin 指标等内部评价指标来评估聚类质量。此外，`kmodes` 库还支持其他超参数，如 `init`（初始化方法）和 `strategy`（距离计算策略）。 **5. 应用场景** k-模式和 k-原型聚类广泛应用于市场细分、客户分群、文本分类、生物信息学等领域。例如，在市场营销中，根据客户的购买历史（分类变量）和消费金额（数值变量）对客户进行分类，可以帮助企业制定针对性的营销策略。 `kmodes` 库为处理包含分类变量的聚类问题提供了强大工具，特别是当数据集中同时包含数值型和分类型特征时，k-原型算法是理想的选择。通过理解算法原理和合理使用 `kmodes` 库，我们可以更有效地挖掘数据中的隐藏结构，从而驱动业务决策。

资源推荐

资源详情

资源评论

收起资源包目录

kmodes-master.zip （30个子文件）

kmodes-master

setup.py 2KB

.gitignore 741B

.travis.yml 476B

LICENSE 1KB

kmodes

__init__.py 23B

util

__init__.py 2KB

tests

test_dissim.py 6KB

__init__.py 0B

test_util.py 4KB

dissim.py 3KB

testing.py 649B

tests

__init__.py 0B

test_kprototypes.py 13KB

test_common.py 3KB

test_kmodes.py 24KB

kprototypes.py 21KB

kmodes.py 17KB

.github

ISSUE_TEMPLATE

bug_report.md 252B

feature_request.md 604B

examples

benchmark_kmodes.py 985B

stocks.py 655B

benchmark_kprototypes.py 835B

benchmark_parallel.py 2KB

iris.py 321B

soybean.csv 3KB

stocks.csv 227B

soybean.py 1KB

README.rst 7KB

.prospector.yaml 563B

.coveragerc 110B

""" Tests for k-modes clustering algorithm """ import pickle import unittest import numpy as np from nose.tools import assert_equal from kmodes.kmodes import KModes from kmodes.util.dissim import ng_dissim, jaccard_dissim_binary, jaccard_dissim_label SOYBEAN = np.array([ [4, 0, 2, 1, 1, 1, 0, 1, 0, 2, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 3, 1, 1, 1, 0, 0, 0, 0, 4, 0, 0, 0, 0, 0, 0, 'D1'], [5, 0, 2, 1, 0, 3, 1, 1, 1, 2, 1, 1, 0, 2, 2, 0, 0, 0, 1, 1, 3, 0, 1, 1, 0, 0, 0, 0, 4, 0, 0, 0, 0, 0, 0, 'D1'], [3, 0, 2, 1, 0, 2, 0, 2, 1, 1, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 3, 0, 1, 1, 0, 0, 0, 0, 4, 0, 0, 0, 0, 0, 0, 'D1'], [6, 0, 2, 1, 0, 1, 1, 1, 0, 0, 1, 1, 0, 2, 2, 0, 0, 0, 1, 1, 3, 1, 1, 1, 0, 0, 0, 0, 4, 0, 0, 0, 0, 0, 0, 'D1'], [4, 0, 2, 1, 0, 3, 0, 2, 0, 2, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 3, 1, 1, 1, 0, 0, 0, 0, 4, 0, 0, 0, 0, 0, 0, 'D1'], [5, 0, 2, 1, 0, 2, 0, 1, 1, 0, 1, 1, 0, 2, 2, 0, 0, 0, 1, 1, 3, 1, 1, 1, 0, 0, 0, 0, 4, 0, 0, 0, 0, 0, 0, 'D1'], [3, 0, 2, 1, 0, 2, 1, 1, 0, 1, 1, 1, 0, 2, 2, 0, 0, 0, 1, 1, 3, 0, 1, 1, 0, 0, 0, 0, 4, 0, 0, 0, 0, 0, 0, 'D1'], [3, 0, 2, 1, 0, 1, 0, 2, 1, 2, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 3, 0, 1, 1, 0, 0, 0, 0, 4, 0, 0, 0, 0, 0, 0, 'D1'], [6, 0, 2, 1, 0, 3, 0, 1, 1, 1, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 3, 1, 1, 1, 0, 0, 0, 0, 4, 0, 0, 0, 0, 0, 0, 'D1'], [6, 0, 2, 1, 0, 1, 0, 1, 0, 2, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 3, 1, 1, 1, 0, 0, 0, 0, 4, 0, 0, 0, 0, 0, 0, 'D1'], [6, 0, 0, 2, 1, 0, 2, 1, 0, 0, 1, 1, 0, 2, 2, 0, 0, 0, 1, 1, 0, 3, 0, 0, 0, 2, 1, 0, 4, 0, 0, 0, 0, 0, 0, 'D2'], [4, 0, 0, 1, 0, 2, 3, 1, 1, 1, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 0, 3, 0, 0, 0, 2, 1, 0, 4, 0, 0, 0, 0, 0, 0, 'D2'], [5, 0, 0, 2, 0, 3, 2, 1, 0, 2, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 0, 3, 0, 0, 0, 2, 1, 0, 4, 0, 0, 0, 0, 0, 0, 'D2'], [6, 0, 0, 1, 1, 3, 3, 1, 1, 0, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 0, 3, 0, 0, 0, 2, 1, 0, 4, 0, 0, 0, 0, 0, 0, 'D2'], [3, 0, 0, 2, 1, 0, 2, 1, 0, 1, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 0, 3, 0, 0, 0, 2, 1, 0, 4, 0, 0, 0, 0, 0, 0, 'D2'], [4, 0, 0, 1, 1, 1, 3, 1, 1, 1, 1, 1, 0, 2, 2, 0, 0, 0, 1, 1, 0, 3, 0, 0, 0, 2, 1, 0, 4, 0, 0, 0, 0, 0, 0, 'D2'], [3, 0, 0, 1, 0, 1, 2, 1, 0, 0, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 0, 3, 0, 0, 0, 2, 1, 0, 4, 0, 0, 0, 0, 0, 0, 'D2'], [5, 0, 0, 2, 1, 2, 2, 1, 0, 2, 1, 1, 0, 2, 2, 0, 0, 0, 1, 1, 0, 3, 0, 0, 0, 2, 1, 0, 4, 0, 0, 0, 0, 0, 0, 'D2'], [6, 0, 0, 2, 0, 1, 3, 1, 1, 0, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 0, 3, 0, 0, 0, 2, 1, 0, 4, 0, 0, 0, 0, 0, 0, 'D2'], [5, 0, 0, 2, 1, 3, 3, 1, 1, 2, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 0, 3, 0, 0, 0, 2, 1, 0, 4, 0, 0, 0, 0, 0, 0, 'D2'], [0, 1, 2, 0, 0, 1, 1, 1, 1, 1, 1, 0, 0, 2, 2, 0, 0, 0, 1, 0, 1, 1, 0, 1, 1, 0, 0, 3, 4, 0, 0, 0, 0, 0, 0, 'D3'], [2, 1, 2, 0, 0, 3, 1, 2, 0, 1, 1, 0, 0, 2, 2, 0, 0, 0, 1, 0, 1, 1, 0, 1, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 0, 'D3'], [2, 1, 2, 0, 0, 2, 1, 1, 0, 2, 1, 0, 0, 2, 2, 0, 0, 0, 1, 0, 1, 1, 0, 1, 1, 0, 0, 3, 4, 0, 0, 0, 0, 0, 0, 'D3'], [0, 1, 2, 0, 0, 0, 1, 1, 1, 2, 1, 0, 0, 2, 2, 0, 0, 0, 1, 0, 1, 1, 0, 1, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 0, 'D3'], [0, 1, 2, 0, 0, 2, 1, 1, 1, 1, 1, 0, 0, 2, 2, 0, 0, 0, 1, 0, 1, 1, 0, 1, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 0, 'D3'], [4, 0, 2, 0, 1, 0, 1, 2, 0, 2, 1, 1, 0, 2, 2, 0, 0, 0, 1, 1, 1, 1, 0, 1, 1, 0, 0, 3, 4, 0, 0, 0, 0, 0, 0, 'D3'], [2, 1, 2, 0, 0, 3, 1, 2, 0, 2, 1, 0, 0, 2, 2, 0, 0, 0, 1, 0, 1, 1, 0, 1, 1, 0, 0, 3, 4, 0, 0, 0, 0, 0, 0, 'D3'], [0, 1, 2, 0, 0, 0, 1, 1, 0, 1, 1, 0, 0, 2, 2, 0, 0, 0, 1, 0, 1, 1, 0, 1, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 1, 'D3'], [3, 0, 2, 0, 1, 3, 1, 2, 0, 1, 1, 0, 0, 2, 2, 0, 0, 0, 1, 1, 1, 1, 0, 1, 1, 0, 0, 3, 4, 0, 0, 0, 0, 0, 0, 'D3'], [0, 1, 2, 0, 0, 1, 1, 2, 1, 2, 1, 0, 0, 2, 2, 0, 0, 0, 1, 0, 1, 1, 0, 1, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 0, 'D3'], [2, 1, 2, 1, 1, 3, 1, 2, 1, 2, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 2, 2, 0, 1, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 1, 'D4'], [0, 1, 1, 1, 0, 1, 1, 1, 0, 0, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 1, 2, 0, 0, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 1, 'D4'], [3, 1, 2, 0, 0, 1, 1, 2, 1, 0, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 2, 2, 0, 0, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 1, 'D4'], [2, 1, 2, 1, 1, 1, 1, 2, 0, 2, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 1, 2, 0, 1, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 1, 'D4'], [1, 1, 2, 0, 0, 3, 1, 1, 1, 2, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 2, 2, 0, 0, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 1, 'D4'], [1, 1, 2, 1, 0, 0, 1, 2, 1, 1, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 2, 2, 0, 0, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 1, 'D4'], [0, 1, 2, 1, 0, 3, 1, 1, 0, 0, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 1, 2, 0, 0, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 1, 'D4'], [2, 1, 2, 0, 0, 1, 1, 2, 0, 0, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 1, 2, 0, 0, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 1, 'D4'], [3, 1, 2, 0, 0, 2, 1, 2, 1, 1, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 2, 2, 0, 0, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 1, 'D4'], [3, 1, 1, 0, 0, 2, 1, 2, 1, 2, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 2, 2, 0, 0, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 1, 'D4'], [0, 1, 2, 1, 1, 1, 1, 1, 0, 0, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 1, 2, 0, 1, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 1, 'D4'], [1, 1, 2, 1, 1, 3, 1, 2, 0, 1, 1, 1, 0, 2, 2, 0, 0, 0, 1, 1, 1, 2, 0, 1, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 1, 'D4'], [1, 1, 2, 0, 0, 0, 1, 2, 1, 0, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 2, 2, 0, 0, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 1, 'D4'], [1, 1, 2, 1, 1, 2, 3, 1, 1, 1, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 2, 2, 0, 1, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 1, 'D4'], [2, 1, 1, 0, 0, 3, 1, 2, 0, 2, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 1, 2, 0, 0, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 1, 'D4'], [0, 1, 1, 1, 1, 2, 1, 2, 1, 0, 1, 1, 0, 2, 2, 0, 0, 0, 1, 1, 2, 2, 0, 1, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 1, 'D4'], [0, 1, 2, 1, 0, 3, 1, 1, 0, 2, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 1, 2, 0, 0, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 1, 'D4'], ]) # Drop target column SOYBEAN = SOYBEAN[:, :35] SOYBEAN2 = np.array([ [4, 0, 2, 1, 1, 1, 0, 1, 0, 1, 1, 1, 0, 2, 2, 0, 0, 0, 1, 0, 3, 0, 1, 1, 0, 0, 0, 0, 4, 0, 0, 0, 0, 0, 0, 'D1'], [7, 0, 0, 2, 1, 0, 2, 1, 0, 0, 1, 1, 0, 2, 2, 0, 0, 0, 1, 1, 0, 3, 0, 0, 0, 2, 1, 0, 4, 0, 0, 0, 0, 0, 0, 'D2'], [0, 1, 2, 0, 0, 1, 1, 1, 1, 2, 1, 0, 0, 2, 2, 0, 0, 0, 1, 0, 1, 1, 0, 1, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 0, 'D3'], [2, 1, 2, 1, 1, 3, 1, 2, 1, 1, 1, 1, 0, 2, 2, 0, 0, 0, 1, 1, 1, 2, 0, 1, 0, 0, 0, 3, 4, 0, 0, 0, 0, 0, 1, 'D4'], ]) # Drop target column SOYBEAN2 = SOYBEAN2[:, :35] # test data with categorical variables that have been label encoded TEST_DATA = np.array([ [2, 22, 14, 45, 2, 0, 1, 2, 5], [2, 13, 13, 19, 2, 0, 1, 2, 5], [3, 25, 4, 3, 0, 1, 2, 0, 4], [2, 13, 15, 18, 0, 1, 2, 2, 3], [3, 10, 4, 42, 0, 2, 1, 1, 2], [2, 16, 21, 14, 0, 1, 2, 2, 2], [2, 16, 19, 37, 0, 2, 1, 2, 2], [2, 20, 9, 34, 0, 1, 2, 3, 5], [2, 14, 21, 44, 0, 1, 2, 3, 2], [2, 26, 5, 30, 0, 1, 2, 3, 3], [3, 18, 17, 41, 3, 3, 3, 2, 0], [2, 20, 1, 27, 3, 3, 3, 2, 0], [3, 6, 8, 19, 0, 1, 2, 1, 2], [2, 13, 8, 41, 3, 3, 3, 2, 0], [2, 18, 17, 41, 3, 3, 3, 2, 0], [2, 16, 19, 42, 0, 1, 2, 2, 5], [7, 7, 5, 43, 0, 2, 1, 2, 2], [2, 18, 17, 41, 3, 3, 3, 2, 0], [3, 3, 5, 12, 3, 3, 3, 2, 0], [2, 18, 17, 41, 3, 3, 3, 2, 0], [7, 15, 19, 17, 0, 1, 2, 2, 2], [1, 1, 15, 24, 0, 1, 2, 2, 2], [2, 18, 17, 41, 3, 3, 3, 2, 0], [2, 5, 7, 9, 0, 1, 2, 3, 5], [2, 24, 6, 10, 0, 2, 1, 2, 2], [2, 13, 16, 29, 0, 2, 1, 2, 2], [3, 6, 8, 1, 0, 1, 2, 2, 5], [2, 16, 15, 34, 0, 1, 2, 2, 1], [0, 24, 14, 12, 3, 3, 3, 2, 0], [3, 8, 21, 13, 3, 3, 3, 2, 0], [2, 17, 15, 42, 3, 3, 3, 2, 0], [2, 25, 18

评论收藏

内容反馈