詳解PANDAS 數(shù)據(jù)合并與重塑(join/merge篇)
在上一篇文章中,我整理了pandas在數(shù)據(jù)合并和重塑中常用到的concat方法的使用說明。在這里,將接著介紹pandas中也常常用到的join 和merge方法
merge
pandas的merge方法提供了一種類似于SQL的內(nèi)存鏈接操作,官網(wǎng)文檔提到它的性能會比其他開源語言的數(shù)據(jù)操作(例如R)要高效。
和SQL語句的對比可以看這里
merge的參數(shù)
on:列名,join用來對齊的那一列的名字,用到這個參數(shù)的時候一定要保證左表和右表用來對齊的那一列都有相同的列名。
left_on:左表對齊的列,可以是列名,也可以是和dataframe同樣長度的arrays。
right_on:右表對齊的列,可以是列名,也可以是和dataframe同樣長度的arrays。
left_index/ right_index: 如果是True的haunted以index作為對齊的key
how:數(shù)據(jù)融合的方法。
sort:根據(jù)dataframe合并的keys按字典順序排序,默認(rèn)是,如果置false可以提高表現(xiàn)。
merge的默認(rèn)合并方法:
merge用于表內(nèi)部基于 index-on-index 和 index-on-column(s) 的合并,但默認(rèn)是基于index來合并。
1.1 復(fù)合key的合并方法
使用merge的時候可以選擇多個key作為復(fù)合可以來對齊合并。
1.1.1 通過on指定數(shù)據(jù)合并對齊的列
In [41]: left = pd.DataFrame({'key1': ['K0', 'K0', 'K1', 'K2'], ....: 'key2': ['K0', 'K1', 'K0', 'K1'], ....: 'A': ['A0', 'A1', 'A2', 'A3'], ....: 'B': ['B0', 'B1', 'B2', 'B3']}) ....: In [42]: right = pd.DataFrame({'key1': ['K0', 'K1', 'K1', 'K2'], ....: 'key2': ['K0', 'K0', 'K0', 'K0'], ....: 'C': ['C0', 'C1', 'C2', 'C3'], ....: 'D': ['D0', 'D1', 'D2', 'D3']}) ....: In [43]: result = pd.merge(left, right, on=['key1', 'key2'])
沒有指定how的話默認(rèn)使用inner方法。
how的方法有:
left
只保留左表的所有數(shù)據(jù)
In [44]: result = pd.merge(left, right, how='left', on=['key1', 'key2'])
right
只保留右表的所有數(shù)據(jù)
In [45]: result = pd.merge(left, right, how='right', on=['key1', 'key2'])
outer
保留兩個表的所有信息
In [46]: result = pd.merge(left, right, how='outer', on=['key1', 'key2'])
inner
只保留兩個表中公共部分的信息
In [47]: result = pd.merge(left, right, how='inner', on=['key1', 'key2'])
1.2 indicator
v0.17.0 版本的pandas開始還支持一個indicator的參數(shù),如果置True的時候,輸出結(jié)果會增加一列 ' _merge'。_merge列可以取三個值
- left_only 只在左表中
- right_only 只在右表中
- both 兩個表中都有
1.3 join方法
dataframe內(nèi)置的join方法是一種快速合并的方法。它默認(rèn)以index作為對齊的列。
1.3.1 how 參數(shù)
join中的how參數(shù)和merge中的how參數(shù)一樣,用來指定表合并保留數(shù)據(jù)的規(guī)則。
具體可見前面的 how 說明。
1.3.2 on 參數(shù)
在實際應(yīng)用中如果右表的索引值正是左表的某一列的值,這時可以通過將 右表的索引 和 左表的列 對齊合并這樣靈活的方式進(jìn)行合并。
ex 1
In [59]: left = pd.DataFrame({'A': ['A0', 'A1', 'A2', 'A3'], ....: 'B': ['B0', 'B1', 'B2', 'B3'], ....: 'key': ['K0', 'K1', 'K0', 'K1']}) ....: In [60]: right = pd.DataFrame({'C': ['C0', 'C1'], ....: 'D': ['D0', 'D1']}, ....: index=['K0', 'K1']) ....: In [61]: result = left.join(right, on='key')
1.3.3 suffix后綴參數(shù)
如果和表合并的過程中遇到有一列兩個表都同名,但是值不同,合并的時候又都想保留下來,就可以用suffixes給每個表的重復(fù)列名增加后綴。
In [79]: result = pd.merge(left, right, on='k', suffixes=['_l', '_r'])
* 另外還有l(wèi)suffix 和 rsuffix分別指定左表的后綴和右表的后綴。
1.4 組合多個dataframe
一次組合多個dataframe的時候可以傳入元素為dataframe的列表或者tuple。一次join多個,一次解決多次煩惱~
In [83]: right2 = pd.DataFrame({'v': [7, 8, 9]}, index=['K1', 'K1', 'K2']) In [84]: result = left.join([right, right2])
1.5 更新表的nan值
1.5.1 combine_first
如果一個表的nan值,在另一個表相同位置(相同索引和相同列)可以找到,則可以通過combine_first來更新數(shù)據(jù)
1.5.2 update
如果要用一張表中的數(shù)據(jù)來更新另一張表的數(shù)據(jù)則可以用update來實現(xiàn)
1.5.3 combine_first 和 update 的區(qū)別
使用combine_first會只更新左表的nan值。而update則會更新左表的所有能在右表中找到的值(兩表位置相對應(yīng))。
示例代碼參考來源——官網(wǎng)
以上就是本文的全部內(nèi)容,希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
基于Python socket實現(xiàn)簡易網(wǎng)絡(luò)聊天室
本文主要介紹了基于Python socket實現(xiàn)簡易網(wǎng)絡(luò)聊天室,本文將通過pyqt5作為桌面應(yīng)用框架,socket作為網(wǎng)絡(luò)編程的框架,從而實現(xiàn)包括客戶端和服務(wù)端的網(wǎng)絡(luò)聊天室的GUI應(yīng)用,需要的可以參考一下2022-07-07基于python SMTP實現(xiàn)自動發(fā)送郵件教程解析
這篇文章主要介紹了基于python實現(xiàn)自動發(fā)送郵件教程解析,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下2020-06-06Python除法保留兩位小數(shù)點(diǎn)的三種方法實現(xiàn)
這篇文章主要給大家介紹了關(guān)于Python除法保留兩位小數(shù)點(diǎn)的三種方法實現(xiàn),在py應(yīng)用中有許多拿結(jié)果中的多個整數(shù)進(jìn)行運(yùn)算,難免少不了除法(如單位換算等),但是整數(shù)進(jìn)行運(yùn)算后只會返回整數(shù),一般結(jié)果基本需要精確到后兩位,需要的朋友可以參考下2023-08-08