在 Python 中進(jìn)行 One-Hot 編碼
1.介紹?
在計(jì)算機(jī)科學(xué)中,數(shù)據(jù)可以用很多不同的方式表示,自然而然地,每一種方式在某些領(lǐng)域都有其優(yōu)點(diǎn)和缺點(diǎn)。
由于計(jì)算機(jī)無法處理分類數(shù)據(jù),因?yàn)檫@些類別對它們沒有意義,如果我們希望計(jì)算機(jī)能夠處理這些信息,就必須準(zhǔn)備好這些信息。
此操作稱為預(yù)處理。 預(yù)處理的很大一部分是編碼 - 以計(jì)算機(jī)可以理解的方式表示每條數(shù)據(jù)(該名稱的字面意思是“轉(zhuǎn)換為計(jì)算機(jī)代碼”)。
在計(jì)算機(jī)科學(xué)的許多分支中,尤其是機(jī)器學(xué)習(xí)和數(shù)字電路設(shè)計(jì)中,One-Hot Encoding
被廣泛使用。
在本文中,我們將解釋什么是 one-hot 編碼,并使用一些流行的選擇(Pandas 和 Scikit-Learn)在 Python 中實(shí)現(xiàn)它。 我們還將比較它與計(jì)算機(jī)中其他類型表示的有效性、優(yōu)點(diǎn)和缺點(diǎn),以及它的應(yīng)用。
2.什么是One-Hot編碼?
One-hot Encoding
是一種向量表示,其中向量中的所有元素都是 0,除了一個(gè),它的值是 1,其中 1 表示指定元素類別的布爾值。
還有一個(gè)類似的實(shí)現(xiàn),稱為One-Cold Encoding
,其中向量中的所有元素都是 1,除了 1 的值是 0。
例如,[0, 0, 0, 1, 0] 和 [1 ,0, 0, 0, 0] 可以是One-hot 向量的一些示例。 與此類似的技術(shù),也用于表示數(shù)據(jù),例如統(tǒng)計(jì)中的虛擬變量。
這與其他編碼方案非常不同,其他編碼方案都允許多個(gè)位的值為 1。 下表比較了從 0 到 7 的數(shù)字在二進(jìn)制、格雷碼和 one-hot 中的表示:
實(shí)際上,對于每個(gè) one-hot 向量,我們會(huì)問 n 個(gè)問題,其中 n 是我們擁有的類別數(shù):
這是數(shù)字1嗎? 這是數(shù)字2嗎? ......這是數(shù)字7嗎?
每個(gè)“0”都是“假”,一旦我們在向量中找到“1”,問題的答案就是“真”。
One-hot 編碼將分類特征轉(zhuǎn)換為一種更適合分類和回歸算法的格式。 它在需要多種類型數(shù)據(jù)表示的方法中非常有用。
例如,一些向量可能最適合回歸(基于以前的返回值逼近函數(shù)),而一些可能最適合分類(分類為固定集/類,通常是二元的):
這里我們有六個(gè)分類數(shù)據(jù)的樣本輸入。 此處使用的編碼類型稱為“label encoding”——它非常簡單:我們只需為分類值分配一個(gè) ID。
我們的計(jì)算機(jī)現(xiàn)在知道如何表示這些類別,因?yàn)樗廊绾翁幚頂?shù)字。 然而,這種編碼方法并不是很有效,因?yàn)樗匀粫?huì)賦予更高的數(shù)字更高的權(quán)重。
說我們的“Strawberries”類別大于或小于“Apples”是沒有意義的,或者將類別“Lemon”添加到“Peach”會(huì)給我們一個(gè)類別“Orange”,因?yàn)檫@些值不是序數(shù)。
如果我們用 one-hot 編碼表示這些類別,我們實(shí)際上會(huì)用列替換行。 我們通過為每個(gè)給定類別創(chuàng)建一個(gè)布爾列來實(shí)現(xiàn)這一點(diǎn),其中只有這些列之一可以為每個(gè)樣本取值 1:
我們可以從上表中看出,與二進(jìn)制或格雷碼相比,one-hot 表示需要更多的數(shù)字。 對于n個(gè)數(shù)字,one-hot編碼只能表示n個(gè)值,而Binary或Gray編碼可以用n個(gè)數(shù)字表示2n個(gè)值。
?3.實(shí)現(xiàn)-Pandas?
讓我們看一個(gè)簡單的示例,說明如何通過 one-hot 編碼方案將數(shù)據(jù)集中的分類列中的值轉(zhuǎn)換為對應(yīng)的數(shù)值。
我們將創(chuàng)建一個(gè)非常簡單的數(shù)據(jù)集 - 國家及其 ID 的列表:
在上面的腳本中,我們使用兩個(gè)列表(即 ids 和國家/地區(qū))創(chuàng)建了一個(gè)Pandas dataframe
,稱為 df。 如果您在數(shù)據(jù)幀上調(diào)用 head() 方法,會(huì)看到以下結(jié)果:
Countries列包含分類值。 我們可以使用 get_dummies() 函數(shù)將Countries列中的值轉(zhuǎn)換為one-hot編碼向量:
我們將 Country
作為 get_dummies()
方法的前綴屬性的值傳遞,因此您可以在輸出中的每個(gè)單熱編碼列的標(biāo)題之前看到字符串 Country 前綴。
?4.實(shí)現(xiàn)-Scikit-Learn?
另一種方法是使用另一個(gè)流行的庫 - Scikit-Learn
。 為此,它提供了 OneHotEncoder
類和 LabelBinarizer
類。
首先,導(dǎo)入庫LabelBinarizer:
打印y值:
同樣,我們可以使用支持多列數(shù)據(jù)的 OneHotEncoder 類,與之前的類不同:
5.?One-hot編碼在機(jī)器學(xué)習(xí)領(lǐng)域的應(yīng)用?
如上所述,計(jì)算機(jī)不太擅長處理分類數(shù)據(jù)。 雖然我們很好地理解分類數(shù)據(jù),但這是由于計(jì)算機(jī)不具備的一種先決知識(shí)。
大多數(shù)機(jī)器學(xué)習(xí)技術(shù)和模型使用非常有限的數(shù)據(jù)集(通常是二進(jìn)制)。 神經(jīng)網(wǎng)絡(luò)消耗數(shù)據(jù)并產(chǎn)生 0..1 范圍內(nèi)的結(jié)果,我們很少會(huì)超出該范圍。
簡而言之,絕大多數(shù)機(jī)器學(xué)習(xí)算法都會(huì)接收樣本數(shù)據(jù)(“訓(xùn)練數(shù)據(jù)”),從中提取特征。 基于這些特征,創(chuàng)建了一個(gè)數(shù)學(xué)模型,然后用于進(jìn)行預(yù)測或決策,而無需明確編程來執(zhí)行這些任務(wù)。
一個(gè)很好的例子是分類,其中輸入在技術(shù)上可以是無界的,但輸出通常僅限于幾個(gè)類別。 在二元分類的情況下(假設(shè)我們正在教一個(gè)神經(jīng)網(wǎng)絡(luò)對貓和狗進(jìn)行分類),我們的映射為 0 代表貓,1 代表狗。
大多數(shù)情況下,我們希望對其進(jìn)行預(yù)測的訓(xùn)練數(shù)據(jù)是分類的,就像上面提到的帶有水果的例子一樣。 同樣,雖然這對我們很有意義,但這些詞本身對算法沒有意義,因?yàn)樗焕斫馑鼈儭?/p>
在這些算法中使用one-hot
編碼來表示數(shù)據(jù)在技術(shù)上不是必需的,但如果我們想要一個(gè)有效的實(shí)現(xiàn),它非常有用。
到此這篇關(guān)于在 Python 中進(jìn)行 One-Hot 編碼的文章就介紹到這了,更多相關(guān) Python 中進(jìn)行 One-Hot 編碼內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Python OpenCV招商銀行信用卡卡號識(shí)別的方法
這篇文章主要介紹了Python OpenCV招商銀行信用卡卡號識(shí)別的方法,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2021-03-03提升Python Scrapy庫數(shù)據(jù)采集速度實(shí)現(xiàn)高效爬蟲
Scrapy是一個(gè)強(qiáng)大而靈活的Python爬蟲框架,被廣泛用于數(shù)據(jù)采集、網(wǎng)站抓取和網(wǎng)絡(luò)爬蟲開發(fā),本文將深入介紹Scrapy的功能和用法,并提供豐富的示例代碼,幫助更好地理解和應(yīng)用2023-11-11使用Djongo模塊在Django中使用MongoDB數(shù)據(jù)庫
Django框架為我們提供了簡潔方便的ORM模型供我們對數(shù)據(jù)庫進(jìn)行各種操作,但是這個(gè)“數(shù)據(jù)庫”卻并不包括NoSQL的典型——MongoDB。不少Django初學(xué)者也會(huì)到處詢問,如何才能在Django中使用MongoDB。本文將介紹使用Djongo來在Django中集成MongoDB數(shù)據(jù)庫2021-06-06Python?中將數(shù)字轉(zhuǎn)換為字母的方法
本文詳細(xì)介紹了在 Python 中將數(shù)字轉(zhuǎn)換為字母的幾種常用方法,我們介紹了使用 chr() 函數(shù)、string 模塊和 ord() 函數(shù)等方法,并提供了示例代碼幫助你理解和應(yīng)用這些方法,感興趣的朋友跟隨小編一起看看吧2023-06-06深度定制Python的Flask框架開發(fā)環(huán)境的一些技巧總結(jié)
現(xiàn)在越來越多的人使用virtualenv虛擬環(huán)境部署Python項(xiàng)目,包括針對框架的實(shí)例文件夾與版本控制布置,這里我們就來整理關(guān)于深度定制Python的Flask框架開發(fā)環(huán)境的一些技巧總結(jié)2016-07-07在python中實(shí)現(xiàn)導(dǎo)入一個(gè)需要傳參的模塊
這篇文章主要介紹了在python中實(shí)現(xiàn)導(dǎo)入一個(gè)需要傳參的模塊,具有很好的參考價(jià)值,希望可以給大家一個(gè)參考,以后在遇到這種的情況的時(shí)候,知道如何應(yīng)對2021-05-05