Python

K-Means是聚类算法的一种，通过距离来判断数据点间的相似度并据此对数据进行聚类。

方法名称

参数

可伸缩性

用例

几何形状（使用的指标）

K-Means

number of clusters

Very large , medium with MiniBatch coden_samplesn_clusters

General-purpose, even cluster size, flat geometry, not too many clusters

Distances between points

Affinity propagation

damping, sample preference

Not scalable with n_samples

Many clusters, uneven cluster size, non-flat geometry

Graph distance (e.g. nearest-neighbor graph)

Mean-shift

bandwidth

Not scalable with n_samples

Many clusters, uneven cluster size, non-flat geometry

Distances between points

Spectral clustering

number of clusters

Medium , small n_samplesn_clusters

Few clusters, even cluster size, non-flat geometry

Graph distance (e.g. nearest-neighbor graph)

Ward hierarchical clustering

number of clusters or distance threshold

Large and n_samplesn_clusters

Many clusters, possibly connectivity constraints

Distances between points

Agglomerative clustering

number of clusters or distance threshold, linkage type, distance

Large and n_samplesn_clusters

Many clusters, possibly connectivity constraints, non Euclidean distances

Any pairwise distance

DBSCAN

neighborhood size

Very large , medium n_samplesn_clusters

Non-flat geometry, uneven cluster sizes

Distances between nearest points

OPTICS

minimum cluster membership

Very large , large n_samplesn_clusters

Non-flat geometry, uneven cluster sizes, variable cluster density

Distances between points

Gaussian mixtures

many

Not scalable

Flat geometry, good for density estimation

Mahalanobis distances to centers

Birch

branching factor, threshold, optional global clusterer.

Large and n_clustersn_samples

Large dataset, outlier removal, data reduction.

Euclidean distance between points

参考链接

K-MEANS算法是输入聚类个数k以及包含 n个数据对象的数据库，输出满足方差最小标准k个聚类的一种算法。k-means 算法接受输入量 k ；然后将n个数据对象划分为 k个聚类以便使得所获得的聚类满足：同一聚类中的对象相似度较高；而不同聚类中的对象相似度较小。

而作为分类依据的聚类相似度是利用各聚类中对象的均值所获得一个“中心对象”（引力中心）来进行计算得到的。

（1） 从 n个数据对象任意选择 k 个对象作为初始聚类中心； （2） 根据每个聚类对象的均值（中心对象），计算每个对象与这些中心对象的距离；并根据最小距离重新对相应对象进行划分； （3） 重新计算每个（有变化）聚类的均值（中心对象）； （4） 计算标准测度函数，当满足一定条件，如函数收敛时，则算法终止；如果条件不满足则回到步骤（2）。

优点：算法简单易懂，易于实现（MATLAB与Python都有相应的工具与库） 缺点：存在收敛于局部最小值的可能；在大规模数据收敛慢

首先，K-means在sklearn.cluster中，我们用到K-means聚类时，调用格式：

1.n_clusters : int, optional, default: 8，表示要聚类生成的簇的数量，也就是聚类中心的数量。要求输入为整数型，默认值为8；2.init : {‘k-means++’, ‘random’ or an ndarray}，表示对进行聚类的数据初始化的方法，默认的方法是’k-means++’。初始化的方法有三种：k-means++，random，或者是一个数组。k-means++能智能的选择初始聚类中心进行k均值聚类，加快收敛速度；random则是从数据中随机的选择k个观测值作为初始的聚类中心；也可以传递给init一个数组作为初始化的聚类中心，则这个数组的结构应该是（n_clusters, n_features），后附代码则是利用数组进行初始化。3.n_init : int, default: 10，表示K-means算法选择聚类中心的次数，默认值为10。算法最终返回的是聚类中心最好的一次结果，也就是时间最短的一次结果；4.max_iter : int, default: 300，表示每次运行K-means算法的最大迭代次数，默认值为300；5.tol : float, default: 1e-4 ，表示容忍度，相当于是迭代终止的精度要求或者可以允许的误差，当满足这个精度则聚类收敛，认为寻找到最优解，此时可以停止迭代，默认值为0.0001；6.precompute_distances : {‘auto’, True, False}，表示预先计算距离，在空间和时间上作出权衡。相当于是否需要判断“用空间来换取时间”，即如果选择true处理时间会更快，但是会占用更多的内存，默认值为‘auto’；‘auto’指如果n_samples * n_clusters > 12亿时，就不预先计算距离。这样就相当于使用双精度的每个作业大约需要100MB的内存；‘True’指总是预先计算距离；‘False’指不预先计算距离；7.verbose : int, default 0，是否输出详细信息，默认值为0；8.random_state : int, RandomState instance or None (default)，确定聚类中心初始化的随机数生成，使用一个整型数使得随机性具有确定性，默认值为None；9.copy_x : boolean, optional，bool 在scikit-learn 很多接口中都会有这个参数的，就是是否对输入数据继续copy 操作，以便不修改用户的输入数据，默认值为True。True时，是不修改原始数据，确保X是C-contiguous，聚类后不修改原始数据；False时，则修改原始数据，在函数返回之前将修改后的放回X，但通过减去再加上数据均值，可能会引入较小的数值差异，在这种情况下也不能保证数据是C-contiguous，可能会使速度明显的下降；10.n_jobs : int or None, optional (default=None)，使用进程的数量，与电脑CPU有关。默认值为None；11.algorithm : “auto”, “full” or “elkan”, default=“auto”，K-means算法所用到的“full”指经典的EM-style算法；“elkan”通过使用三角不等式，优点是处理更加高效，但不支持稀疏的数据；“auto”则在数据密集时，选择“elkan”，在数据稀疏时，选择“full”。

1.cluster_centers_：返回聚类中心的坐标；2.labels_：每个点的标签；3.inertia_：样本到聚类中心的平方和，聚类准则的总和；4.n_iter_：迭代运行的次数；

K-means参考资料

本次K-means聚类的数据利用杨老师的湖北省某地的土壤属性数据，我选择了其中的三类数据，分别命名为‘PH’、‘S’、'N'；导入Python的是一个n*4的数据，第一列为ID，即序号表明不同的点序列。