# coding: utf-8
# 導(dǎo)入pandas與numpy工具包。
import pandas as pd
import numpy as np
 
# 創(chuàng)建特征列表。
column_names = ['Sample code number', 'Clump Thickness', 'Uniformity of Cell Size', 'Uniformity of Cell Shape', 'Marginal Adhesion', 'Single Epithelial Cell Size', 'Bare Nuclei', 'Bland Chromatin', 'Normal Nucleoli', 'Mitoses', 'Class']
# 使用pandas.read_csv函數(shù)從互聯(lián)網(wǎng)讀取指定數(shù)據(jù)。
data = pd.read_csv('https://archive.ics.uci.edu/ml/machine-learning-databases/breast-cancer-wisconsin/breast-cancer-wisconsin.data', names = column_names )
 
# 將?替換為標(biāo)準(zhǔn)缺失值表示。
data = data.replace(to_replace='?', value=np.nan)
# 丟棄帶有缺失值的數(shù)據(jù)（只要有一個(gè)維度有缺失）。
data = data.dropna(how='any')
 
# 輸出data的數(shù)據(jù)量和維度。
data.shape
 
 
# In[2]:
 
 
# 使用sklearn.cross_valiation里的train_test_split模塊用于分割數(shù)據(jù)。
from sklearn.cross_validation import train_test_split
 
# 隨機(jī)采樣25%的數(shù)據(jù)用于測(cè)試，剩下的75%用于構(gòu)建訓(xùn)練集合。
X_train, X_test, y_train, y_test = train_test_split(data[column_names[1:10]], data[column_names[10]], test_size=0.25, random_state=33)
# print "data[column_names[10]]",data[column_names[10]]
 
 
# 查驗(yàn)訓(xùn)練樣本的數(shù)量和類別分布。
y_train=pd.Series(y_train)
y_train.value_counts()
 
# 查驗(yàn)測(cè)試樣本的數(shù)量和類別分布。
y_test=pd.Series(y_test)
y_test.value_counts()
 
 
# 從sklearn.preprocessing里導(dǎo)入StandardScaler。
from sklearn.preprocessing import StandardScaler
# 從sklearn.linear_model里導(dǎo)入LogisticRegression與SGDClassifier。
from sklearn.linear_model import LogisticRegression
from sklearn.linear_model import SGDClassifier
 
 
 
 
 
 
 
#標(biāo)準(zhǔn)化數(shù)據(jù)，保證每個(gè)維度的特征數(shù)據(jù)方差為1，均值為0。使得預(yù)測(cè)結(jié)果不會(huì)被某些維度過(guò)大的特征值而主導(dǎo)。
ss = StandardScaler()
X_train = ss.fit_transform(X_train)
X_test = ss.transform(X_test)
 
#
 
# 初始化LogisticRegression與SGDClassifier。
lr = LogisticRegression()
sgdc = SGDClassifier()
 
# 調(diào)用LogisticRegression中的fit函數(shù)/模塊用來(lái)訓(xùn)練模型參數(shù)。
lr.fit(X_train, y_train)
# 使用訓(xùn)練好的模型lr對(duì)X_test進(jìn)行預(yù)測(cè)，結(jié)果儲(chǔ)存在變量lr_y_predict中。
lr_y_predict = lr.predict(X_test)
 
# 調(diào)用SGDClassifier中的fit函數(shù)/模塊用來(lái)訓(xùn)練模型參數(shù)。
sgdc.fit(X_train, y_train)
# 使用訓(xùn)練好的模型sgdc對(duì)X_test進(jìn)行預(yù)測(cè)，結(jié)果儲(chǔ)存在變量sgdc_y_predict中。
sgdc_y_predict = sgdc.predict(X_test)
 
 
 
 
# 從sklearn.metrics里導(dǎo)入classification_report模塊。
from sklearn.metrics import classification_report
 
# 使用邏輯斯蒂回歸模型自帶的評(píng)分函數(shù)score獲得模型在測(cè)試集上的準(zhǔn)確性結(jié)果。
print ("Accuracy of LR Classifier:", lr.score(X_test, y_test))
# 利用classification_report模塊獲得LogisticRegression其他三個(gè)指標(biāo)的結(jié)果。
print (classification_report(y_test, lr_y_predict, target_names=['Benign', 'Malignant']))
 
 
 
# 使用隨機(jī)梯度下降模型自帶的評(píng)分函數(shù)score獲得模型在測(cè)試集上的準(zhǔn)確性結(jié)果。
print 'Accuarcy of SGD Classifier:', sgdc.score(X_test, y_test)
# 利用classification_report模塊獲得SGDClassifier其他三個(gè)指標(biāo)的結(jié)果。
print classification_report(y_test, sgdc_y_predict, target_names=['Benign', 'Malignant'])