Python K-Means聚类算法原理与代码实现详解
本文详细介绍K-Means聚类算法的核心原理,包括中心点初始化、距离计算及迭代更新过程。通过Python代码示例展示如何手动实现该算法,涵盖数据预处理、聚类中心迭代及结果可视化步骤,帮助开发者理解并应用这一基础机器学习技术。
一、K-Means聚类算法概述
假设数据集被划分为c个簇,每个簇由一个中心点代表。算法首先随机初始化c个中心点,随后通过迭代过程计算每个样本点到各个类中心的距离(距离度量可自定义,通常采用欧氏距离)。
将每个样本点分配给距离最近的类中心,形成新的聚类归属。接着重新计算各类的中心位置,并重复上述划分过程。当类中心的位置不再发生显著变化时,迭代终止,聚类任务完成。
二、算法伪代码描述
三、Python代码实现
#!/usr/bin/env python
# coding=utf-8
import numpy as np
import random
import matplotlib.pyplot as plt
#data:numpy.array dataset
#k the number of cluster
def k_means(data,k):
#random generate cluster_center
sample_num=data.shape[0]
center_index=random.sample(range(sample_num),k)
cluster_cen=data[center_index,:]
is_change=1
cat=np.zeros(sample_num)
while is_change:
is_change=0
for i in range(sample_num):
min_distance=100000
min_index=0
for j in range(k):
sub_data=data[i,:]-cluster_cen[j,:]
distance=np.inner(sub_data,sub_data)
if distance<min_distance:
min_distance=distance
min_index=j+1
if cat[i]!=min_index:
is_change=1
cat[i]=min_index
for j in range(k):
cluster_cen[j]=np.mean(data[cat==(j+1)],axis=0)
return cat,cluster_cen
if __name__=='__main__':
#generate data
cov=[[1,0],[0,1]]
mean1=[1,-1]
x1=np.random.multivariate_normal(mean1,cov,200)
mean2=[5.5,-4.5]
x2=np.random.multivariate_normal(mean2,cov,200)
mean3=[1,4]
x3=np.random.multivariate_normal(mean3,cov,200)
mean4=[6,4.5]
x4=np.random.multivariate_normal(mean4,cov,200)
mean5=[9,0.0]
x5=np.random.multivariate_normal(mean5,cov,200)
X=np.vstack((x1,x2,x3,x4,x5))
#data distribution
fig1=plt.figure(1)
p1=plt.scatter(x1[:,0],x1[:,1],marker='o',color='r',label='x1')
p2=plt.scatter(x2[:,0],x2[:,1],marker='+',color='m',label='x2')
p3=plt.scatter(x3[:,0],x3[:,1],marker='x',color='b',label='x3')
p4=plt.scatter(x4[:,0],x4[:,1],marker='*',color='g',label='x4')
p5=plt.scatter(x5[:,0],x4[:,1],marker='+',color='y',label='x5')
plt.title('original data')
plt.legend(loc='upper right')
cat,cluster_cen=k_means(X,5)
print 'the number of cluster 1:',sum(cat==1)
print 'the number of cluster 2:',sum(cat==2)
print 'the number of cluster 3:',sum(cat==3)
print 'the number of cluster 4:',sum(cat==4)
print 'the number of cluster 5:',sum(cat==5)
fig2=plt.figure(2)
for i,m,lo,label in zip(range(5),['o','+','x','*','+'],['r','m','b','g','y'],['x1','x2','x3','x4','x5']):
p=plt.scatter(X[cat==(i+1),0],X[cat==(i+1),1],marker=m,color=lo,label=label)
plt.legend(loc='upper right')
plt.title('the clustering result')
plt.show()
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持本站。
本站声明
本文内容仅供参考,不代表本站观点。转载或引用请注明出处。如发现内容问题,请通过联系我们页面反馈。













