利用Python畫(huà)ROC曲線(xiàn)和AUC值計(jì)算
前言
ROC(Receiver Operating Characteristic)曲線(xiàn)和AUC常被用來(lái)評(píng)價(jià)一個(gè)二值分類(lèi)器(binary classifier)的優(yōu)劣。這篇文章將先簡(jiǎn)單的介紹ROC和AUC,而后用實(shí)例演示如何python作出ROC曲線(xiàn)圖以及計(jì)算AUC。
AUC介紹
AUC(Area Under Curve)是機(jī)器學(xué)習(xí)二分類(lèi)模型中非常常用的評(píng)估指標(biāo),相比于F1-Score對(duì)項(xiàng)目的不平衡有更大的容忍性,目前常見(jiàn)的機(jī)器學(xué)習(xí)庫(kù)中(比如scikit-learn)一般也都是集成該指標(biāo)的計(jì)算,但是有時(shí)候模型是單獨(dú)的或者自己編寫(xiě)的,此時(shí)想要評(píng)估訓(xùn)練模型的好壞就得自己搞一個(gè)AUC計(jì)算模塊,本文在查詢(xún)資料時(shí)發(fā)現(xiàn)libsvm-tools有一個(gè)非常通俗易懂的auc計(jì)算,因此摳出來(lái)用作日后之用。
AUC計(jì)算
AUC的計(jì)算分為下面三個(gè)步驟:
1、計(jì)算數(shù)據(jù)的準(zhǔn)備,如果模型訓(xùn)練時(shí)只有訓(xùn)練集的話(huà)一般使用交叉驗(yàn)證的方式來(lái)計(jì)算,如果有評(píng)估集(evaluate)一般就可以直接計(jì)算了,數(shù)據(jù)的格式一般就是需要預(yù)測(cè)得分以及其目標(biāo)類(lèi)別(注意是目標(biāo)類(lèi)別,不是預(yù)測(cè)得到的類(lèi)別)
2、根據(jù)閾值劃分得到橫(X:False Positive Rate)以及縱(Y:True Positive Rate)點(diǎn)
3、將坐標(biāo)點(diǎn)連成曲線(xiàn)之后計(jì)算其曲線(xiàn)下面積,就是AUC的值
直接上python代碼
#! -*- coding=utf-8 -*- import pylab as pl from math import log,exp,sqrt evaluate_result="you file path" db = [] #[score,nonclk,clk] pos, neg = 0, 0 with open(evaluate_result,'r') as fs: for line in fs: nonclk,clk,score = line.strip().split('\t') nonclk = int(nonclk) clk = int(clk) score = float(score) db.append([score,nonclk,clk]) pos += clk neg += nonclk db = sorted(db, key=lambda x:x[0], reverse=True) #計(jì)算ROC坐標(biāo)點(diǎn) xy_arr = [] tp, fp = 0., 0. for i in range(len(db)): tp += db[i][2] fp += db[i][1] xy_arr.append([fp/neg,tp/pos]) #計(jì)算曲線(xiàn)下面積 auc = 0. prev_x = 0 for x,y in xy_arr: if x != prev_x: auc += (x - prev_x) * y prev_x = x print "the auc is %s."%auc x = [_v[0] for _v in xy_arr] y = [_v[1] for _v in xy_arr] pl.title("ROC curve of %s (AUC = %.4f)" % ('svm',auc)) pl.xlabel("False Positive Rate") pl.ylabel("True Positive Rate") pl.plot(x, y)# use pylab to plot x and y pl.show()# show the plot on the screen
輸入的數(shù)據(jù)集可以參考svm預(yù)測(cè)結(jié)果
其格式為:
nonclk \t clk \t score
其中:
1、nonclick:未點(diǎn)擊的數(shù)據(jù),可以看做負(fù)樣本的數(shù)量
2、clk:點(diǎn)擊的數(shù)量,可以看做正樣本的數(shù)量
3、score:預(yù)測(cè)的分?jǐn)?shù),以該分?jǐn)?shù)為group進(jìn)行正負(fù)樣本的預(yù)統(tǒng)計(jì)可以減少AUC的計(jì)算量
運(yùn)行的結(jié)果為:
如果本機(jī)沒(méi)安裝pylab可以直接注釋依賴(lài)以及畫(huà)圖部分
注意
上面貼的代碼:
1、只能計(jì)算二分類(lèi)的結(jié)果(至于二分類(lèi)的標(biāo)簽隨便處理)
2、上面代碼中每個(gè)score都做了一次閾值,其實(shí)這樣效率是相當(dāng)?shù)偷模梢詫?duì)樣本進(jìn)行采樣或者在計(jì)算橫軸坐標(biāo)時(shí)進(jìn)行等分計(jì)算
總結(jié)
以上就是這篇文章的全部?jī)?nèi)容,希望本文的內(nèi)容能對(duì)大家的學(xué)習(xí)或者工作帶來(lái)一定的幫助,如果有疑問(wèn)大家可以留言交流。
- Python機(jī)器學(xué)習(xí)利用鳶尾花數(shù)據(jù)繪制ROC和AUC曲線(xiàn)
- Python利用Pytorch實(shí)現(xiàn)繪制ROC與PR曲線(xiàn)圖
- 解析ROC曲線(xiàn)繪制(python+sklearn+多分類(lèi))
- python如何將多個(gè)模型的ROC曲線(xiàn)繪制在一張圖(含圖例)
- Python中ROC曲線(xiàn)繪制
- 基于python實(shí)現(xiàn)ROC曲線(xiàn)繪制廣場(chǎng)解析
- python實(shí)現(xiàn)二分類(lèi)和多分類(lèi)的ROC曲線(xiàn)教程
- python繪制ROC曲線(xiàn)的示例代碼
相關(guān)文章
Python 用Redis簡(jiǎn)單實(shí)現(xiàn)分布式爬蟲(chóng)的方法
本篇文章主要介紹了Python 用Redis簡(jiǎn)單實(shí)現(xiàn)分布式爬蟲(chóng)的方法,小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2017-11-11Python?turtle.right與turtle.setheading的區(qū)別講述
這篇文章主要介紹了Python?turtle.right與turtle.setheading的區(qū)別,本文以turtle.right為例給大家詳細(xì)介紹,需要的朋友可以參考下2022-03-03在Django admin中編輯ManyToManyField的實(shí)現(xiàn)方法
今天小編就為大家分享一篇在Django admin中編輯ManyToManyField的實(shí)現(xiàn)方法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-08-08使用TensorFlow實(shí)現(xiàn)二分類(lèi)的方法示例
這篇文章主要介紹了使用TensorFlow實(shí)現(xiàn)二分類(lèi)的方法示例,小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2019-02-02Django獲取前端數(shù)據(jù)的實(shí)現(xiàn)方式
這篇文章主要介紹了Django獲取前端數(shù)據(jù)的實(shí)現(xiàn)方式,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-02-02Python編程快速上手——正則表達(dá)式查找功能案例分析
這篇文章主要介紹了Python正則表達(dá)式查找功能,結(jié)合具體實(shí)例形式分析了Python基于正則表達(dá)式遍歷查找指定格式文件的相關(guān)操作技巧,需要的朋友可以參考下2020-02-02pytorch中.to(device) 和.cuda()的區(qū)別說(shuō)明
這篇文章主要介紹了pytorch中.to(device) 和.cuda()的區(qū)別說(shuō)明,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2021-05-05