欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

python中實現(xiàn)k-means聚類算法詳解

 更新時間:2017年11月11日 16:49:09   作者:mrbean  
這篇文章主要介紹了python中實現(xiàn)k-means聚類算法詳解,具有一定參考價值,需要的朋友可以了解下。

算法優(yōu)缺點:

優(yōu)點:容易實現(xiàn)
缺點:可能收斂到局部最小值,在大規(guī)模數(shù)據(jù)集上收斂較慢
使用數(shù)據(jù)類型:數(shù)值型數(shù)據(jù)

算法思想

k-means算法實際上就是通過計算不同樣本間的距離來判斷他們的相近關系的,相近的就會放到同一個類別中去。

1.首先我們需要選擇一個k值,也就是我們希望把數(shù)據(jù)分成多少類,這里k值的選擇對結果的影響很大,Ng的課說的選擇方法有兩種一種是elbow method,簡單的說就是根據(jù)聚類的結果和k的函數(shù)關系判斷k為多少的時候效果最好。另一種則是根據(jù)具體的需求確定,比如說進行襯衫尺寸的聚類你可能就會考慮分成三類(L,M,S)等

2.然后我們需要選擇最初的聚類點(或者叫質(zhì)心),這里的選擇一般是隨機選擇的,代碼中的是在數(shù)據(jù)范圍內(nèi)隨機選擇,另一種是隨機選擇數(shù)據(jù)中的點。這些點的選擇會很大程度上影響到最終的結果,也就是說運氣不好的話就到局部最小值去了。這里有兩種處理方法,一種是多次取均值,另一種則是后面的改進算法(bisecting K-means)

3.終于我們開始進入正題了,接下來我們會把數(shù)據(jù)集中所有的點都計算下與這些質(zhì)心的距離,把它們分到離它們質(zhì)心最近的那一類中去。完成后我們則需要將每個簇算出平均值,用這個點作為新的質(zhì)心。反復重復這兩步,直到收斂我們就得到了最終的結果。

函數(shù)

loadDataSet(fileName)

從文件中讀取數(shù)據(jù)集

distEclud(vecA, vecB)

計算距離,這里用的是歐氏距離,當然其他合理的距離都是可以的

randCent(dataSet, k)

隨機生成初始的質(zhì)心,這里是雖具選取數(shù)據(jù)范圍內(nèi)的點

kMeans(dataSet, k, distMeas=distEclud, createCent=randCent)

kmeans算法,輸入數(shù)據(jù)和k值。后面兩個事可選的距離計算方式和初始質(zhì)心的選擇方式

show(dataSet, k, centroids, clusterAssment)

可視化結果

#coding=utf-8
from numpy import *
def loadDataSet(fileName):
 dataMat = []
 fr = open(fileName)
 for line in fr.readlines():
 curLine = line.strip().split('\t')
 fltLine = map(float, curLine)
 dataMat.append(fltLine)
 return dataMat
#計算兩個向量的距離,用的是歐幾里得距離
def distEclud(vecA, vecB):
 return sqrt(sum(power(vecA - vecB, 2)))
#隨機生成初始的質(zhì)心(ng的課說的初始方式是隨機選K個點) 
def randCent(dataSet, k):
 n = shape(dataSet)[1]
 centroids = mat(zeros((k,n)))
 for j in range(n):
 minJ = min(dataSet[:,j])
 rangeJ = float(max(array(dataSet)[:,j]) - minJ)
 centroids[:,j] = minJ + rangeJ * random.rand(k,1)
 return centroids
def kMeans(dataSet, k, distMeas=distEclud, createCent=randCent):
 m = shape(dataSet)[0]
 clusterAssment = mat(zeros((m,2)))#create mat to assign data points 
     #to a centroid, also holds SE of each point
 centroids = createCent(dataSet, k)
 clusterChanged = True
 while clusterChanged:
 clusterChanged = False
 for i in range(m):#for each data point assign it to the closest centroid
  minDist = inf
  minIndex = -1
  for j in range(k):
  distJI = distMeas(centroids[j,:],dataSet[i,:])
  if distJI < minDist:
   minDist = distJI; minIndex = j
  if clusterAssment[i,0] != minIndex: 
  clusterChanged = True
  clusterAssment[i,:] = minIndex,minDist**2
 print centroids
 for cent in range(k):#recalculate centroids
  ptsInClust = dataSet[nonzero(clusterAssment[:,0].A==cent)[0]]#get all the point in this cluster
  centroids[cent,:] = mean(ptsInClust, axis=0) #assign centroid to mean 
 return centroids, clusterAssment
def show(dataSet, k, centroids, clusterAssment):
 from matplotlib import pyplot as plt 
 numSamples, dim = dataSet.shape 
 mark = ['or', 'ob', 'og', 'ok', '^r', '+r', 'sr', 'dr', '<r', 'pr'] 
 for i in xrange(numSamples): 
 markIndex = int(clusterAssment[i, 0]) 
 plt.plot(dataSet[i, 0], dataSet[i, 1], mark[markIndex]) 
 mark = ['Dr', 'Db', 'Dg', 'Dk', '^b', '+b', 'sb', 'db', '<b', 'pb'] 
 for i in range(k): 
 plt.plot(centroids[i, 0], centroids[i, 1], mark[i], markersize = 12) 
 plt.show()
def main():
 dataMat = mat(loadDataSet('testSet.txt'))
 myCentroids, clustAssing= kMeans(dataMat,4)
 print myCentroids
 show(dataMat, 4, myCentroids, clustAssing) 
 
if __name__ == '__main__':
 main()

這里是聚類結果,還是很不錯的啦

但是有時候也會收斂到局部最小值,就像下面這樣,就是不幸收斂到局部最優(yōu)了

總結

以上就是本文關于python中實現(xiàn)k-means聚類算法詳解的全部內(nèi)容,希望對大家有所幫助。感興趣的朋友可以繼續(xù)參閱本站:

Python內(nèi)存管理方式和垃圾回收算法解析

Python數(shù)據(jù)結構與算法之列表(鏈表,linked list)簡單實現(xiàn)

Python算法之求n個節(jié)點不同二叉樹個數(shù)

有什么問題可以隨時留言,小編會及時回復大家的。感謝朋友們對本站的支持!

相關文章

  • python字典基本操作實例分析

    python字典基本操作實例分析

    這篇文章主要介紹了python字典基本操作,實例分析了Python的打印輸出、刪除、賦值等常用技巧,具有一定參考借鑒價值,需要的朋友可以參考下
    2015-07-07
  • Python 序列化和反序列化庫 MarshMallow 的用法實例代碼

    Python 序列化和反序列化庫 MarshMallow 的用法實例代碼

    marshmallow(Object serialization and deserialization, lightweight and fluffy.)用于對對象進行序列化和反序列化,并同步進行數(shù)據(jù)驗證。這篇文章主要介紹了Python 序列化和反序列化庫 MarshMallow 的用法實例代碼,需要的朋友可以參考下
    2020-02-02
  • Python監(jiān)控主機是否存活并以郵件報警

    Python監(jiān)控主機是否存活并以郵件報警

    本文是利用python腳本寫的簡單測試主機是否存活,此腳本有個缺點不適用線上,由于網(wǎng)絡延遲、丟包現(xiàn)象會造成誤報郵件,感興趣的朋友一起看看Python監(jiān)控主機是否存活并以郵件報警吧
    2015-09-09
  • Python+Seaborn繪制分布圖的示例詳解

    Python+Seaborn繪制分布圖的示例詳解

    這篇文章我們將介紹10個示例,從而幫助大家掌握如何使用Python中的Seaborn庫來創(chuàng)建圖表。文中示例代碼講解詳細,感興趣的可以了解一下
    2022-05-05
  • pytorch使用horovod多gpu訓練的實現(xiàn)

    pytorch使用horovod多gpu訓練的實現(xiàn)

    這篇文章主要介紹了pytorch使用horovod多gpu訓練的實現(xiàn),文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧
    2020-09-09
  • Python實現(xiàn)判斷變量是否是函數(shù)方式

    Python實現(xiàn)判斷變量是否是函數(shù)方式

    這篇文章主要介紹了Python實現(xiàn)判斷變量是否是函數(shù)方式,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教
    2024-02-02
  • Selenium webdriver添加cookie實現(xiàn)過程詳解

    Selenium webdriver添加cookie實現(xiàn)過程詳解

    這篇文章主要介紹了Selenium webdriver添加cookie實現(xiàn)過程詳解,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下
    2020-08-08
  • python生成多個只含0,1元素的隨機數(shù)組或列表的實例

    python生成多個只含0,1元素的隨機數(shù)組或列表的實例

    今天小編就為大家分享一篇python生成多個只含0,1元素的隨機數(shù)組或列表的實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2018-11-11
  • Python運算符之Inplace運算符的使用教程

    Python運算符之Inplace運算符的使用教程

    Inplace運算符的行為與普通運算符相似,只是在可變目標和不可變目標的情況下它們以不同的方式起作用。本文將通過示例帶大家了解Inplace運算符的使用,需要的可以參考一下
    2022-09-09
  • 用python如何繪制表格不同顏色的excel

    用python如何繪制表格不同顏色的excel

    做數(shù)據(jù)分析的時候,用到了對Excel中的數(shù)據(jù)進行顯示處理,能更直觀的了解數(shù)據(jù),所以下面這篇文章主要給大家介紹了關于利用python如何繪制表格不同顏色excel的相關資料,需要的朋友可以參考下
    2021-11-11

最新評論