y_train_pred = model.predict(x_train)


# In[26]:


train_accu = np.equal(y_train,y_train_pred)
print(y_train.shape,y_train_pred.shape)


# In[27]:


#計算模型在測試集上的分類準(zhǔn)確率（=正確分類樣本數(shù)/測試集總樣本數(shù)）
accuracy = list(train_accu).count(True)/len(list(y_train))
print("準(zhǔn)確率為"+"%f"%float(accuracy*100)+"%")


# In[28]:


#從測試集中找出模型不能正確預(yù)測的樣本。
test_accu = list(np.equal(y_pred,y_test))
i = 0
len_test = len(test_accu)
False_index = []
[False_index.append(i) for i in range(0,len_test) if test_accu[i]==False]
print(x_test[False_index])


# In[29]:


#對參數(shù) penalty 分別取‘l1', ‘l2', ‘elasticnet', ‘none'，對比它們在測試集上的預(yù)測性能（計算 score）。
model2 = LogisticRegression(multi_class='ovr',penalty='l1',max_iter=10000,solver='saga').fit(x_train, y_train)
print("penalty='l1'"+'的得分：', model2.score(x_test, y_test))


# In[33]:


#對參數(shù) penalty 分別取‘l1', ‘l2', ‘elasticnet', ‘none'，對比它們在測試集上的預(yù)測性能（計算 score）。
model2 = LogisticRegression(multi_class='ovr',penalty='l2',max_iter=10000).fit(x_train, y_train)
print("penalty='l2'"+'的得分：', model2.score(x_test, y_test))


# In[31]:


model4 = LogisticRegression(multi_class='ovr',penalty='elasticnet',max_iter=10000,solver='saga',l1_ratio=0).fit(x_train, y_train)
#模型建立產(chǎn)生一些參數(shù)的問題一般都是sklearn的版本問題，要是忽略，就升級更新一下版本就好了solver指定penalty參數(shù)的范圍
print("penalty='elasticnet'"+'的得分：', model4.score(x_test, y_test))


# In[32]:


model5 = LogisticRegression(multi_class='ovr',penalty='none',max_iter=10000,solver='lbfgs').fit(x_train, y_train)
print("penalty='none'"+'的得分：', model5.score(x_test, y_test))