sklearn-SVC實現(xiàn)與類參數(shù)

對應(yīng)的API：http://scikit-learn.sourceforge.net/stable/modules/generated/sklearn.svm.SVC.html

它是基于libsvm實現(xiàn)的。隨著樣本數(shù)量的增加，擬合時間的復(fù)雜度要高于二次，這就使得當(dāng)樣板數(shù)量超過一萬個時，很難擴展到數(shù)據(jù)集中。

在多類處理時，是按照1對1的方案進行處理的。

函數(shù)的的定義為：

 def __init__ (self, C=1.0, kernel='rbf', degree=3, gamma='auto',coef0=0.0, 
verbose=False, max_iter=-1, decision_function_shape='ovr', random_state=None):

參數(shù)的含義：

- C：float參數(shù) 默認值為1.0。錯誤項的懲罰系數(shù)。C越大，即對分錯樣本的懲罰程度越大，因此在訓(xùn)練樣本中準(zhǔn)確率越高，但是泛化能力降低，也就是對測試數(shù)據(jù)的分類準(zhǔn)確率降低。相反，減小C的話，容許訓(xùn)練樣本中有一些誤分類錯誤樣本，泛化能力強。對于訓(xùn)練樣本帶有噪聲的情況，一般采用后者，把訓(xùn)練樣本集中錯誤分類的樣本作為噪聲。

- kernel: str參數(shù) 默認為‘rbf‘，算法中采用的核函數(shù)類型，可選參數(shù)有：

linear：線性核函數(shù)

poly：多項式核函數(shù)

rbf：徑像核函數(shù)/高斯核

sigmod：sigmod核函數(shù)

precomputed：核矩陣

- degree :int型參數(shù) (default=3)，這個參數(shù)只對多項式核函數(shù)（poly）有用，是指多項式核函數(shù)的階數(shù)n，如果給的核函數(shù)參數(shù)是其他核函數(shù)，則會自動忽略該參數(shù)。

- gamma：float參數(shù)，默認為auto核函數(shù)系數(shù)，只對'rbf'、 ‘poly' 、 ‘sigmoid'有效。

如果gamma為auto，代表其值為樣本特征數(shù)的倒數(shù)，即1/n_features。

- coef0：float參數(shù) 默認為0.0

核函數(shù)中的獨立項，只有對‘poly'和‘sigmod'核函數(shù)有用，是指其中的參數(shù)c

- probability：bool參數(shù) 默認為False

是否啟用概率估計。 這必須在調(diào)用fit()之前啟用，并且會fit()方法速度變慢。

- shrinking：bool參數(shù) 默認為True

是否采用啟發(fā)式收縮方式。

- tol: float參數(shù) 默認為1e^-3

svm停止訓(xùn)練的誤差精度。

- cache_size：float參數(shù) 默認為200

指定訓(xùn)練所需要的內(nèi)存，以MB為單位，默認為200MB。 - class_weight：字典類型或者‘balance'字符串。默認為None

給每個類別分別設(shè)置不同的懲罰參數(shù)C，則該類別的懲罰系數(shù)為class_weight[i]*C，如果沒有給，則會給所有類別都給C=1，即前面參數(shù)指出的參數(shù)C。

如果給定參數(shù)‘balance'，則使用y的值自動調(diào)整與輸入數(shù)據(jù)中的類頻率成反比的權(quán)重。

- verbose ：bool參數(shù) 默認為False

是否啟用詳細輸出。 此設(shè)置利用libsvm中的每個進程運行時設(shè)置，如果啟用，可能無法在多線程上下文中正常工作。一般情況都設(shè)為False，不用管它。

- max_iter ：int參數(shù) 默認為-1

最大迭代次數(shù)，如果為-1，表示不限制

- random_state：int型參數(shù) 默認為None

偽隨機數(shù)發(fā)生器的種子,在混洗數(shù)據(jù)時用于概率估計。

SVC的方法

1、fit()方法：用于訓(xùn)練SVM，具體參數(shù)已經(jīng)在定義SVC對象的時候給出了，這時候只需要給出數(shù)據(jù)集X和X對應(yīng)的標(biāo)簽y即可。

2、predict()方法：基于以上的訓(xùn)練，對預(yù)測樣本T進行類別預(yù)測，因此只需要接收一個測試集T，該函數(shù)返回一個數(shù)組表示個測試樣本的類別。

3、predict_proba()：返回每個輸入類別的概率，這與predict方法不同，predict方法返回的輸入樣本屬于那個類別，但沒有概率。使用此方法時，需要在初始化時，將 probability參數(shù)設(shè)置為True。

例如：

import numpy as np
import matplotlib.pyplot as plt
from sklearn import svm
# we create 40 separable points
np.random.seed(0)
X = np.r_[np.random.randn(20, 2) - [2, 2], np.random.randn(20, 2) + [2, 2]]
Y = [0] * 20 + [1] * 20
# fit the model
clf = svm.SVC(kernel='linear',probability=True)
clf.fit(X, Y)
print(clf.predict_proba([[-0.1,0.7],[0.3,0.5]]))
#result
#[[ 0.41844015 0.58155985]
#[ 0.34810738 0.65189262]]

如果初始化時不適用probability參數(shù)：

clf = svm.SVC(kernel='linear')
clf.fit(X, Y)
print(clf.predict([[-0.1,0.7],[0.3,0.5]]))
# get the separating hyperplane
w = clf.coef_[0]
#輸出的結(jié)果為：[1,1]

屬性有哪些：

svc.n_support_：各類各有多少個支持向量

svc.support_：各類的支持向量在訓(xùn)練樣本中的索引

svc.support_vectors_：各類所有的支持向量

以上這篇sklearn-SVC實現(xiàn)與類參數(shù)詳解就是小編分享給大家的全部內(nèi)容了，希望能給大家一個參考，也希望大家多多支持腳本之家。

最新評論