Python如何通過手肘法實現(xiàn)k_means聚類詳解

更新時間：2023年04月20日 10:25:09 作者：河啊

K-means聚類算法是一種常見的無監(jiān)督學(xué)習(xí)算法,用于將數(shù)據(jù)集分成k個不同的簇,下面這篇文章主要給大家介紹了關(guān)于Python如何通過手肘法實現(xiàn)k_means聚類的相關(guān)資料,需要的朋友可以參考下

1.導(dǎo)入matplotlib.pylab和numpy包

import matplotlib.pylab as plt
import numpy as np

2.定義實現(xiàn)需要用到的函數(shù)

（1）計算兩點距離

# 計算兩點距離
def distance(a, b):
    return np.sqrt((a[0] - b[0]) ** 2 + (a[1] - b[1]) ** 2)

（2）取集合的中心點

# 取集合中心點
def means(arr):
    x = 0
    y = 0
    for i in range(len(arr)):
        x += arr[i][0]
        y += arr[i][1]
    if len(arr) > 0:
        x /= len(arr)
        y /= len(arr)
    return np.array([x, y])

（3）尋找下一個聚類中心點，其距離已找到的聚類中心點最遠(yuǎn)，用于初始化聚類中心

# 尋找距離已加入聚類中心數(shù)組最遠(yuǎn)的點，用于初始化聚類中心
def farthest(k_arr, arr):
    point = [0, 0]
    max_dist = 0
    for e in arr:
        dist = 0
        for i in range(len(k_arr)):
            dist += distance(k_arr[i], e)
        if dist > max_dist:
            max_dist = dist
            point = e
    return point

3.k_means方法

（1）先讀取表中的數(shù)據(jù)

（2）如何隨機獲取其中一個點作為第一個聚類中心

（3）接下來每次獲取距離之間所有聚類中心點最遠(yuǎn)的點作為下一個聚類中心點

（4）每次迭代時，遍歷集合中的所有點，將其加入距離最小的聚類中心點數(shù)組中，更新聚類中心

（5）最后將數(shù)據(jù)可視化，返回分類好的數(shù)組

def k_means(k):
    # 讀取數(shù)據(jù)
    kmeans_data = np.genfromtxt('kmeans_data.txt', dtype=float)
    # 初始化
    r = np.random.randint(len(kmeans_data) - 1)
    k_arr = np.array([kmeans_data[r]])
    class_arr = [[]]
    for i in range(k - 1):
        k_arr = np.concatenate([k_arr, np.array([farthest(k_arr, kmeans_data)])])
        class_arr.append([])

    # 迭代聚類
    n = 20
    class_temp = class_arr
    for i in range(n):  # 迭代次數(shù)
        class_temp = class_arr
        for e in kmeans_data:  # 把集合中的每一個點聚到離它最近的類
            k_idx = 0  # 假設(shè)距離第一個聚類中心最近
            min_d = distance(e, k_arr[0])
            for j in range(len(k_arr)):  # 獲取距離該元素最近的聚類中心
                if distance(e, k_arr[j]) < min_d:
                    min_d = distance(e, k_arr[j])
                    k_idx = j
            class_temp[k_idx].append(e)  # 把該元素加到對應(yīng)的類中
        # 更新聚類中心
        for l in range(len(k_arr)):
            k_arr[l] = means(class_temp[l])
    # 將數(shù)據(jù)可視化
    col = ['red', 'blue', 'yellow', 'green', 'pink', 'black', 'purple', 'orange', 'brown']
    for i in range(k):
        plt.scatter(k_arr[i][0], k_arr[i][1], linewidths=10, color=col[i])
        plt.scatter([e[0] for e in class_temp[i]], [e[1] for e in class_temp[i]], color=col[i])
    plt.show()
    # 返回分類好的簇
    return class_temp

4.手肘法獲取最佳的k值

（1）遍歷k值的范圍，從1到9

（2）kmeans獲取分類好的數(shù)組

（3）遍歷kmeans計算對應(yīng)的SSE

（4）畫出對應(yīng)k值的SSE的折線圖

# 通過肘部觀察法獲取k值
def getK():
    mean_dist = []
    for k in range(1, 10):
        # 獲取分成k簇后的元素
        kmeans = k_means(k)
        sse = 0
        # 計算SSE
        for i in range(len(kmeans)):
            mean = means(kmeans[i])
            for e in kmeans[i]:
                sse += distance(mean, e) ** 2
        mean_dist.append(sse)
    # 化成折線圖觀察最佳的k值
    plt.plot(range(1, 10), mean_dist, 'bx-')
    plt.ylabel('SSE')
    plt.xlabel('k')
    plt.show()

折線圖

5. main函數(shù)

if __name__ == '__main__':
    getK()
    # 通過觀察可知, 4 是最佳的k值
    k_means(4)

散點圖

6. 完整代碼

import matplotlib.pylab as plt
import numpy as np

# 計算兩點距離
def distance(a, b):
    return np.sqrt((a[0] - b[0]) ** 2 + (a[1] - b[1]) ** 2)

# 取集合中心點
def means(arr):
    x = 0
    y = 0
    for i in range(len(arr)):
        x += arr[i][0]
        y += arr[i][1]
    if len(arr) > 0:
        x /= len(arr)
        y /= len(arr)
    return np.array([x, y])

# 尋找距離已加入聚類中心數(shù)組最遠(yuǎn)的點，用于初始化聚類中心
def farthest(k_arr, arr):
    point = [0, 0]
    max_dist = 0
    for e in arr:
        dist = 0
        for i in range(len(k_arr)):
            dist += distance(k_arr[i], e)
        if dist > max_dist:
            max_dist = dist
            point = e
    return point

def k_means(k):
    # 讀取數(shù)據(jù)
    kmeans_data = np.genfromtxt('kmeans_data.txt', dtype=float)
    # 初始化
    r = np.random.randint(len(kmeans_data) - 1)
    k_arr = np.array([kmeans_data[r]])
    class_arr = [[]]
    for i in range(k - 1):
        k_arr = np.concatenate([k_arr, np.array([farthest(k_arr, kmeans_data)])])
        class_arr.append([])

    # 迭代聚類
    n = 20
    class_temp = class_arr
    for i in range(n):  # 迭代次數(shù)
        class_temp = class_arr
        for e in kmeans_data:  # 把集合中的每一個點聚到離它最近的類
            k_idx = 0  # 假設(shè)距離第一個聚類中心最近
            min_d = distance(e, k_arr[0])
            for j in range(len(k_arr)):  # 獲取距離該元素最近的聚類中心
                if distance(e, k_arr[j]) < min_d:
                    min_d = distance(e, k_arr[j])
                    k_idx = j
            class_temp[k_idx].append(e)  # 把該元素加到對應(yīng)的類中
        # 更新聚類中心
        for l in range(len(k_arr)):
            k_arr[l] = means(class_temp[l])
    # 將數(shù)據(jù)可視化
    col = ['red', 'blue', 'yellow', 'green', 'pink', 'black', 'purple', 'orange', 'brown']
    for i in range(k):
        plt.scatter(k_arr[i][0], k_arr[i][1], linewidths=10, color=col[i])
        plt.scatter([e[0] for e in class_temp[i]], [e[1] for e in class_temp[i]], color=col[i])
    plt.show()
    # 返回分類好的簇
    return class_temp

# 通過肘部觀察法獲取k值
def getK():
    mean_dist = []
    for k in range(1, 10):
        # 獲取分成k簇后的元素
        kmeans = k_means(k)
        sse = 0
        # 計算SSE
        for i in range(len(kmeans)):
            mean = means(kmeans[i])
            for e in kmeans[i]:
                sse += distance(mean, e) ** 2
        mean_dist.append(sse)
    # 化成折線圖觀察最佳的k值
    plt.plot(range(1, 10), mean_dist, 'bx-')
    plt.ylabel('SSE')
    plt.xlabel('k')
    plt.show()

if __name__ == '__main__':
    getK()
    # 通過觀察可知, 4 是最佳的k值
    k_means(4)