python機(jī)器學(xué)習(xí)Github已達(dá)8.9Kstars模型解釋器LIME
簡(jiǎn)單的模型例如線性回歸,LR等模型非常易于解釋,但在實(shí)際應(yīng)用中的效果卻遠(yuǎn)遠(yuǎn)低于復(fù)雜的梯度提升樹(shù)模型以及神經(jīng)網(wǎng)絡(luò)等模型。
現(xiàn)在大部分互聯(lián)網(wǎng)公司的建模都是基于梯度提升樹(shù)或者神經(jīng)網(wǎng)絡(luò)模型等復(fù)雜模型,遺憾的是,這些模型雖然效果好,但是我們卻較難對(duì)其進(jìn)行很好地解釋,這也是目前一直困擾著大家的一個(gè)重要問(wèn)題,現(xiàn)在大家也越來(lái)越加關(guān)注模型的解釋性。
本文介紹一種解釋機(jī)器學(xué)習(xí)模型輸出的方法LIME。它可以認(rèn)為是SHARP的升級(jí)版,Github鏈接:https://github.com/marcotcr/lime,有所收獲多多支持
LIME
LIME(Local Interpretable Model-agnostic Explanations)支持的模型包括:
- 結(jié)構(gòu)化模型的解釋;
- 文本分類器的解釋;
- 圖像分類器的解釋;
LIME被用作解釋機(jī)器學(xué)習(xí)模型的解釋,通過(guò)LIME我們可以知道為什么模型會(huì)這樣進(jìn)行預(yù)測(cè)。
本文我們就重點(diǎn)觀測(cè)一下LIME是如何對(duì)預(yù)測(cè)結(jié)果進(jìn)行解釋的。
代 碼
此處我們使用winequality-white數(shù)據(jù)集,并且將quality<=5設(shè)置為0,其它的值轉(zhuǎn)變?yōu)?.
# !pip install lime import pandas as pd from xgboost import XGBClassifier import shap import numpy as np from sklearn.model_selection import train_test_split
df = pd.read_csv('./data/winequality-white.csv',sep = ';') df['quality'] = df['quality'].apply(lambda x: 0 if x <= 5 else 1) df.head()
# 訓(xùn)練集測(cè)試集分割 X = df.drop('quality', axis=1) y = df['quality'] X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=1) # 模型訓(xùn)練 model = XGBClassifier(n_estimators = 100, random_state=42) model.fit(X_train, y_train) score = model.score(X_test, y_test) score
The use of label encoder in XGBClassifier is deprecated and will be removed in a future release. 0.832653061224489
對(duì)單個(gè)樣本進(jìn)行預(yù)測(cè)解釋
下面的圖中表明了單個(gè)樣本的預(yù)測(cè)值中各個(gè)特征的貢獻(xiàn)。
import lime from lime import lime_tabular explainer = lime_tabular.LimeTabularExplainer( training_data=np.array(X_train), feature_names=X_train.columns, class_names=['bad', 'good'], mode='classification' )
模型有84%的置信度是壞的wine,而其中alcohol
,totals ulfur dioxide是最重要的。
import lime from lime import lime_tabular explainer = lime_tabular.LimeTabularExplainer( training_data=np.array(X_train), feature_names=X_train.columns, class_names=['bad', 'good'], mode='classification' )
模型有59%的置信度是壞的wine,而其中alcohol,chlorides, density, citric acid是最重要的預(yù)測(cè)參考因素。
exp = explainer.explain_instance(data_row=X_test.iloc[1], predict_fn=model.predict_proba) exp.show_in_notebook(show_table=True)
適用問(wèn)題
LIME可以認(rèn)為是SHARP的升級(jí)版,它通過(guò)預(yù)測(cè)結(jié)果解釋機(jī)器學(xué)習(xí)模型很簡(jiǎn)單。它為我們提供了一個(gè)很好的方式來(lái)向非技術(shù)人員解釋地下發(fā)生了什么。您不必?fù)?dān)心數(shù)據(jù)可視化,因?yàn)長(zhǎng)IME庫(kù)會(huì)為您處理數(shù)據(jù)可視化。
參考鏈接
https://www.kaggle.com/piyushagni5/white-wine-quality
LIME: How to Interpret Machine Learning Models With Python
https://github.com/marcotcr/lime
https://mp.weixin.qq.com/s/47omhEeHqJdQTtciLIN2Hw
以上就是Github已達(dá)8.9Kstars的最佳模型解釋器LIME的詳細(xì)內(nèi)容,更多關(guān)于模型解釋器LIME的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!
- Python梯度提升庫(kù)XGBoost解決機(jī)器學(xué)習(xí)問(wèn)題使用探究
- Python機(jī)器學(xué)習(xí)特征重要性分析的8個(gè)常用方法實(shí)例探究
- python taipy庫(kù)輕松地將數(shù)據(jù)和機(jī)器學(xué)習(xí)模型轉(zhuǎn)為功能性Web應(yīng)用
- Python BentoML構(gòu)建部署和管理機(jī)器學(xué)習(xí)模型技巧掌握
- Python機(jī)器學(xué)習(xí)性能度量利用鳶尾花數(shù)據(jù)繪制P-R曲線
- Python機(jī)器學(xué)習(xí)利用鳶尾花數(shù)據(jù)繪制ROC和AUC曲線
- python人工智能human?learn繪圖創(chuàng)建機(jī)器學(xué)習(xí)模型
- python?lazypredict構(gòu)建大量基本模型簡(jiǎn)化機(jī)器學(xué)習(xí)
相關(guān)文章
python-序列解包(對(duì)可迭代元素的快速取值方法)
今天小編就為大家分享一篇python-序列解包(對(duì)可迭代元素的快速取值方法),具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-08-08python中正則表達(dá)式findall的用法實(shí)例
在寫(xiě)著自動(dòng)化測(cè)試的腳本時(shí)重新復(fù)習(xí)了一下正則表達(dá)式findall()方法,下面這篇文章主要給大家介紹了關(guān)于python中正則表達(dá)式findall用法的相關(guān)資料,文中通過(guò)實(shí)例代碼介紹的非常詳細(xì),需要的朋友可以參考下2022-09-09淺談Python中的zip()與*zip()函數(shù)詳解
這篇文章主要介紹了淺談Python中的zip()與*zip()函數(shù)詳解,小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2018-02-02Pytorch 多維數(shù)組運(yùn)算過(guò)程的索引處理方式
今天小編就為大家分享一篇Pytorch 多維數(shù)組運(yùn)算過(guò)程的索引處理方式,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-12-12python利用有道翻譯實(shí)現(xiàn)"語(yǔ)言翻譯器"的功能實(shí)例
小編就為大家分享一篇python利用有道翻譯實(shí)現(xiàn)"語(yǔ)言翻譯器"的功能實(shí)例。具有比較好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2017-11-11matlab灰度圖像調(diào)整及imadjust函數(shù)的用法詳解
這篇文章主要介紹了matlab圖像灰度調(diào)整及imadjust函數(shù)的用法詳解,本文通過(guò)實(shí)例代碼給大家介紹的非常詳細(xì),具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2020-02-02