詳解PANDAS 數(shù)據(jù)合并與重塑(join/merge篇)
在上一篇文章中,我整理了pandas在數(shù)據(jù)合并和重塑中常用到的concat方法的使用說(shuō)明。在這里,將接著介紹pandas中也常常用到的join 和merge方法
merge
pandas的merge方法提供了一種類(lèi)似于SQL的內(nèi)存鏈接操作,官網(wǎng)文檔提到它的性能會(huì)比其他開(kāi)源語(yǔ)言的數(shù)據(jù)操作(例如R)要高效。
和SQL語(yǔ)句的對(duì)比可以看這里
merge的參數(shù)
on:列名,join用來(lái)對(duì)齊的那一列的名字,用到這個(gè)參數(shù)的時(shí)候一定要保證左表和右表用來(lái)對(duì)齊的那一列都有相同的列名。
left_on:左表對(duì)齊的列,可以是列名,也可以是和dataframe同樣長(zhǎng)度的arrays。
right_on:右表對(duì)齊的列,可以是列名,也可以是和dataframe同樣長(zhǎng)度的arrays。
left_index/ right_index: 如果是True的haunted以index作為對(duì)齊的key
how:數(shù)據(jù)融合的方法。
sort:根據(jù)dataframe合并的keys按字典順序排序,默認(rèn)是,如果置false可以提高表現(xiàn)。
merge的默認(rèn)合并方法:
merge用于表內(nèi)部基于 index-on-index 和 index-on-column(s) 的合并,但默認(rèn)是基于index來(lái)合并。
1.1 復(fù)合key的合并方法
使用merge的時(shí)候可以選擇多個(gè)key作為復(fù)合可以來(lái)對(duì)齊合并。
1.1.1 通過(guò)on指定數(shù)據(jù)合并對(duì)齊的列
In [41]: left = pd.DataFrame({'key1': ['K0', 'K0', 'K1', 'K2'], ....: 'key2': ['K0', 'K1', 'K0', 'K1'], ....: 'A': ['A0', 'A1', 'A2', 'A3'], ....: 'B': ['B0', 'B1', 'B2', 'B3']}) ....: In [42]: right = pd.DataFrame({'key1': ['K0', 'K1', 'K1', 'K2'], ....: 'key2': ['K0', 'K0', 'K0', 'K0'], ....: 'C': ['C0', 'C1', 'C2', 'C3'], ....: 'D': ['D0', 'D1', 'D2', 'D3']}) ....: In [43]: result = pd.merge(left, right, on=['key1', 'key2'])
沒(méi)有指定how的話(huà)默認(rèn)使用inner方法。
how的方法有:
left
只保留左表的所有數(shù)據(jù)
In [44]: result = pd.merge(left, right, how='left', on=['key1', 'key2'])
right
只保留右表的所有數(shù)據(jù)
In [45]: result = pd.merge(left, right, how='right', on=['key1', 'key2'])
outer
保留兩個(gè)表的所有信息
In [46]: result = pd.merge(left, right, how='outer', on=['key1', 'key2'])
inner
只保留兩個(gè)表中公共部分的信息
In [47]: result = pd.merge(left, right, how='inner', on=['key1', 'key2'])
1.2 indicator
v0.17.0 版本的pandas開(kāi)始還支持一個(gè)indicator的參數(shù),如果置True的時(shí)候,輸出結(jié)果會(huì)增加一列 ' _merge'。_merge列可以取三個(gè)值
- left_only 只在左表中
- right_only 只在右表中
- both 兩個(gè)表中都有
1.3 join方法
dataframe內(nèi)置的join方法是一種快速合并的方法。它默認(rèn)以index作為對(duì)齊的列。
1.3.1 how 參數(shù)
join中的how參數(shù)和merge中的how參數(shù)一樣,用來(lái)指定表合并保留數(shù)據(jù)的規(guī)則。
具體可見(jiàn)前面的 how 說(shuō)明。
1.3.2 on 參數(shù)
在實(shí)際應(yīng)用中如果右表的索引值正是左表的某一列的值,這時(shí)可以通過(guò)將 右表的索引 和 左表的列 對(duì)齊合并這樣靈活的方式進(jìn)行合并。
ex 1
In [59]: left = pd.DataFrame({'A': ['A0', 'A1', 'A2', 'A3'], ....: 'B': ['B0', 'B1', 'B2', 'B3'], ....: 'key': ['K0', 'K1', 'K0', 'K1']}) ....: In [60]: right = pd.DataFrame({'C': ['C0', 'C1'], ....: 'D': ['D0', 'D1']}, ....: index=['K0', 'K1']) ....: In [61]: result = left.join(right, on='key')
1.3.3 suffix后綴參數(shù)
如果和表合并的過(guò)程中遇到有一列兩個(gè)表都同名,但是值不同,合并的時(shí)候又都想保留下來(lái),就可以用suffixes給每個(gè)表的重復(fù)列名增加后綴。
In [79]: result = pd.merge(left, right, on='k', suffixes=['_l', '_r'])
* 另外還有l(wèi)suffix 和 rsuffix分別指定左表的后綴和右表的后綴。
1.4 組合多個(gè)dataframe
一次組合多個(gè)dataframe的時(shí)候可以傳入元素為dataframe的列表或者tuple。一次join多個(gè),一次解決多次煩惱~
In [83]: right2 = pd.DataFrame({'v': [7, 8, 9]}, index=['K1', 'K1', 'K2']) In [84]: result = left.join([right, right2])
1.5 更新表的nan值
1.5.1 combine_first
如果一個(gè)表的nan值,在另一個(gè)表相同位置(相同索引和相同列)可以找到,則可以通過(guò)combine_first來(lái)更新數(shù)據(jù)
1.5.2 update
如果要用一張表中的數(shù)據(jù)來(lái)更新另一張表的數(shù)據(jù)則可以用update來(lái)實(shí)現(xiàn)
1.5.3 combine_first 和 update 的區(qū)別
使用combine_first會(huì)只更新左表的nan值。而update則會(huì)更新左表的所有能在右表中找到的值(兩表位置相對(duì)應(yīng))。
示例代碼參考來(lái)源——官網(wǎng)
以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
基于Python socket實(shí)現(xiàn)簡(jiǎn)易網(wǎng)絡(luò)聊天室
本文主要介紹了基于Python socket實(shí)現(xiàn)簡(jiǎn)易網(wǎng)絡(luò)聊天室,本文將通過(guò)pyqt5作為桌面應(yīng)用框架,socket作為網(wǎng)絡(luò)編程的框架,從而實(shí)現(xiàn)包括客戶(hù)端和服務(wù)端的網(wǎng)絡(luò)聊天室的GUI應(yīng)用,需要的可以參考一下2022-07-07python游戲開(kāi)發(fā)的五個(gè)案例分享
本文給大家分享了作者整理的五個(gè)python游戲開(kāi)發(fā)的案例,通過(guò)具體設(shè)計(jì)思路,代碼等方面詳細(xì)了解python游戲開(kāi)發(fā)的過(guò)程,非常的詳細(xì),希望大家能夠喜歡2020-03-03基于python SMTP實(shí)現(xiàn)自動(dòng)發(fā)送郵件教程解析
這篇文章主要介紹了基于python實(shí)現(xiàn)自動(dòng)發(fā)送郵件教程解析,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-06-06Python除法保留兩位小數(shù)點(diǎn)的三種方法實(shí)現(xiàn)
這篇文章主要給大家介紹了關(guān)于Python除法保留兩位小數(shù)點(diǎn)的三種方法實(shí)現(xiàn),在py應(yīng)用中有許多拿結(jié)果中的多個(gè)整數(shù)進(jìn)行運(yùn)算,難免少不了除法(如單位換算等),但是整數(shù)進(jìn)行運(yùn)算后只會(huì)返回整數(shù),一般結(jié)果基本需要精確到后兩位,需要的朋友可以參考下2023-08-08python 編碼中為什么要寫(xiě)類(lèi)型注解?
這篇文章主要介紹了python 編碼中為什么要寫(xiě)類(lèi)型注解,幫助大家更好的理解和學(xué)習(xí)使用python,感興趣的朋友可以了解下2021-03-03