Python機(jī)器學(xué)習(xí)庫(kù)scikit-learn入門開(kāi)發(fā)示例
1.數(shù)據(jù)采集和標(biāo)記
先采集數(shù)據(jù),再對(duì)數(shù)據(jù)進(jìn)行標(biāo)記。其中采集數(shù)據(jù)要就有代表性,以確保最終訓(xùn)練出來(lái)模型的準(zhǔn)確性。
2.特征選擇
選擇特征的直觀方法:直接使用圖片的每個(gè)像素點(diǎn)作為一個(gè)特征。
數(shù)據(jù)保存為樣本個(gè)數(shù)×特征個(gè)數(shù)格式的array對(duì)象。scikit-learn使用Numpy的array對(duì)象來(lái)表示數(shù)據(jù),所有的圖片數(shù)據(jù)保存在digits.images里,每個(gè)元素都為一個(gè)8×8尺寸的灰階圖片。
3.數(shù)據(jù)清洗
把采集到的、不合適用來(lái)做機(jī)器學(xué)習(xí)訓(xùn)練的數(shù)據(jù)進(jìn)行預(yù)處理,從而轉(zhuǎn)換為合適機(jī)器學(xué)習(xí)的數(shù)據(jù)。
目的:減少計(jì)算量,確保模型穩(wěn)定性。
4.模型選擇
對(duì)于不同的數(shù)據(jù)集,選擇不同的模型有不同的效率。因此在選擇模型要考慮很多的因素,來(lái)提高最終選擇模型的契合度。
5.模型訓(xùn)練
在進(jìn)行模型訓(xùn)練之前,要將數(shù)據(jù)集劃分為訓(xùn)練數(shù)據(jù)集和測(cè)試數(shù)據(jù)集,再利用劃分好的數(shù)據(jù)集進(jìn)行模型訓(xùn)練,最后得到我們訓(xùn)練出來(lái)的模型參數(shù)。
6.模型測(cè)試
模型測(cè)試的直觀方法:用訓(xùn)練出來(lái)的模型預(yù)測(cè)測(cè)試數(shù)據(jù)集,然后將預(yù)測(cè)出來(lái)的結(jié)果與真正的結(jié)果進(jìn)行比較,最后比較出來(lái)的結(jié)果即為模型的準(zhǔn)確度。
scikit-learn提供的完成這項(xiàng)工作的方法:
clf . score ( Xtest , Ytest)
除此之外,還可以直接把測(cè)試數(shù)據(jù)集里的部分圖片顯示出來(lái),并且在圖片的左下角顯示預(yù)測(cè)值,右下角顯示真實(shí)值。
7.模型保存與加載
當(dāng)我們訓(xùn)練出一個(gè)滿意的模型后即可將模型保存下來(lái),這樣當(dāng)下次需要預(yù)測(cè)時(shí),可以直接利用此模型進(jìn)行預(yù)測(cè),不用再一次進(jìn)行模型訓(xùn)練。
8.實(shí)例
數(shù)據(jù)采集和標(biāo)記
#導(dǎo)入庫(kù) %matplotlib inline import matplotlib.pyplot as plt import numpy as np """ sk-learn庫(kù)中自帶了一些數(shù)據(jù)集 此處使用的就是手寫數(shù)字識(shí)別圖片的數(shù)據(jù) """ # 導(dǎo)入sklearn庫(kù)中datasets模塊 from sklearn import datasets # 利用datasets模塊中的函數(shù)load_digits()進(jìn)行數(shù)據(jù)加載 digits = datasets.load_digits() # 把數(shù)據(jù)所代表的圖片顯示出來(lái) images_and_labels = list(zip(digits.images, digits.target)) plt.figure(figsize=(8, 6)) for index, (image, label) in enumerate(images_and_labels[:8]): plt.subplot(2, 4, index + 1) plt.axis('off') plt.imshow(image, cmap=plt.cm.gray_r, interpolation='nearest') plt.title('Digit: %i' % label, fontsize=20);
特征選擇
# 將數(shù)據(jù)保存為 樣本個(gè)數(shù)x特征個(gè)數(shù) 格式的array對(duì)象 的數(shù)據(jù)格式進(jìn)行輸出 # 數(shù)據(jù)已經(jīng)保存在了digits.data文件中 print("shape of raw image data: {0}".format(digits.images.shape)) print("shape of data: {0}".format(digits.data.shape))
模型訓(xùn)練
# 把數(shù)據(jù)分成訓(xùn)練數(shù)據(jù)集和測(cè)試數(shù)據(jù)集(此處將數(shù)據(jù)集的百分之二十作為測(cè)試數(shù)據(jù)集) from sklearn.model_selection import train_test_split Xtrain, Xtest, Ytrain, Ytest = train_test_split(digits.data, digits.target, test_size=0.20, random_state=2); # 使用支持向量機(jī)來(lái)訓(xùn)練模型 from sklearn import svm clf = svm.SVC(gamma=0.001, C=100., probability=True) # 使用訓(xùn)練數(shù)據(jù)集Xtrain和Ytrain來(lái)訓(xùn)練模型 clf.fit(Xtrain, Ytrain);
模型測(cè)試
""" sklearn.metrics.accuracy_score(y_true, y_pred, normalize=True, sample_weight=None) normalize:默認(rèn)值為True,返回正確分類的比例;如果為False,返回正確分類的樣本數(shù) """ # 評(píng)估模型的準(zhǔn)確度(此處默認(rèn)為true,直接返回正確的比例,也就是模型的準(zhǔn)確度) from sklearn.metrics import accuracy_score # predict是訓(xùn)練后返回預(yù)測(cè)結(jié)果,是標(biāo)簽值。 Ypred = clf.predict(Xtest); accuracy_score(Ytest, Ypred)
模型保存與加載
""" 將測(cè)試數(shù)據(jù)集里的部分圖片顯示出來(lái) 圖片的左下角顯示預(yù)測(cè)值,右下角顯示真實(shí)值 """ # 查看預(yù)測(cè)的情況 fig, axes = plt.subplots(4, 4, figsize=(8, 8)) fig.subplots_adjust(hspace=0.1, wspace=0.1) for i, ax in enumerate(axes.flat): ax.imshow(Xtest[i].reshape(8, 8), cmap=plt.cm.gray_r, interpolation='nearest') ax.text(0.05, 0.05, str(Ypred[i]), fontsize=32, transform=ax.transAxes, color='green' if Ypred[i] == Ytest[i] else 'red') ax.text(0.8, 0.05, str(Ytest[i]), fontsize=32, transform=ax.transAxes, color='black') ax.set_xticks([]) ax.set_yticks([])
# 保存模型參數(shù) import joblib joblib.dump(clf, 'digits_svm.pkl');
保存模型參數(shù)過(guò)程中出現(xiàn)如下錯(cuò)誤:
原因:sklearn.externals.joblib函數(shù)是用在0.21及以前的版本中,在最新的版本,該函數(shù)應(yīng)被棄用。
解決方法:將 from sklearn.externals import joblib改為 import joblib
# 導(dǎo)入模型參數(shù),直接進(jìn)行預(yù)測(cè) clf = joblib.load('digits_svm.pkl') Ypred = clf.predict(Xtest); clf.score(Xtest, Ytest)
到此這篇關(guān)于Python機(jī)器學(xué)習(xí)庫(kù)scikit-learn入門開(kāi)發(fā)示例的文章就介紹到這了,更多相關(guān)Python scikit-learn內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Python 中如何實(shí)現(xiàn)參數(shù)化測(cè)試的方法示例
這篇文章主要介紹了Python 中如何實(shí)現(xiàn)參數(shù)化測(cè)試的方法示例,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2019-12-12詳解如何使用Python?LXML庫(kù)來(lái)解析和處理XML文檔
在數(shù)據(jù)處理過(guò)程中,XML(可擴(kuò)展標(biāo)記語(yǔ)言)常常被用作數(shù)據(jù)存儲(chǔ)和傳輸,Python的lxml庫(kù)是一個(gè)強(qiáng)大的庫(kù),用于解析XML和HTML文檔,本文將向您介紹如何使用lxml庫(kù)來(lái)解析和處理XML文檔,需要的朋友可以參考下2023-08-08Python使用StringIO和BytesIO讀寫內(nèi)存數(shù)據(jù)
這篇文章介紹了Python使用StringIO和BytesIO讀寫內(nèi)存數(shù)據(jù)的方法,文中通過(guò)示例代碼介紹的非常詳細(xì)。對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2022-05-05tensorflow基于CNN實(shí)戰(zhàn)mnist手寫識(shí)別(小白必看)
這篇文章主要介紹了tensorflow基于CNN實(shí)戰(zhàn)mnist手寫識(shí)別(小白必看),文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2020-07-07