pandas數(shù)據(jù)的合并與拼接的實(shí)現(xiàn)
Pandas包的merge、join、concat方法可以完成數(shù)據(jù)的合并和拼接,merge方法主要基于兩個(gè)dataframe的共同列進(jìn)行合并,join方法主要基于兩個(gè)dataframe的索引進(jìn)行合并,concat方法是對(duì)series或dataframe進(jìn)行行拼接或列拼接。
1. Merge方法
pandas的merge方法是基于共同列,將兩個(gè)dataframe連接起來。merge方法的主要參數(shù):
- left/right:左/右位置的dataframe。
- how:數(shù)據(jù)合并的方式。left:基于左dataframe列的數(shù)據(jù)合并;right:基于右dataframe列的數(shù)據(jù)合并;outer:基于列的數(shù)據(jù)外合并(取并集);inner:基于列的數(shù)據(jù)內(nèi)合并(取交集);默認(rèn)為'inner'。
- on:用來合并的列名,這個(gè)參數(shù)需要保證兩個(gè)dataframe有相同的列名。
- left_on/right_on:左/右dataframe合并的列名,也可為索引,數(shù)組和列表。
- left_index/right_index:是否以index作為數(shù)據(jù)合并的列名,True表示是。
- sort:根據(jù)dataframe合并的keys排序,默認(rèn)是。
- suffixes:若有相同列且該列沒有作為合并的列,可通過suffixes設(shè)置該列的后綴名,一般為元組和列表類型。
merges通過設(shè)置how參數(shù)選擇兩個(gè)dataframe的連接方式,有內(nèi)連接,外連接,左連接,右連接,下面通過例子介紹連接的含義。
1.1 內(nèi)連接
how='inner',dataframe的鏈接方式為內(nèi)連接,我們可以理解基于共同列的交集進(jìn)行連接,參數(shù)on設(shè)置連接的共有列名。
# 單列的內(nèi)連接 # 定義df1 import pandas as pd import numpy as np df1 = pd.DataFrame({'alpha':['A','B','B','C','D','E'],'feature1':[1,1,2,3,3,1], 'feature2':['low','medium','medium','high','low','high']}) # 定義df2 df2 = pd.DataFrame({'alpha':['A','A','B','F'],'pazham':['apple','orange','pine','pear'], 'kilo':['high','low','high','medium'],'price':np.array([5,6,5,7])}) # print(df1) # print(df2) # 基于共同列alpha的內(nèi)連接 df3 = pd.merge(df1,df2,how='inner',on='alpha') df3
取共同列alpha值的交集進(jìn)行連接。
1.2 外連接
how='outer',dataframe的鏈接方式為外連接,我們可以理解基于共同列的并集進(jìn)行連接,參數(shù)on設(shè)置連接的共有列名。
# 單列的外連接 # 定義df1 df1 = pd.DataFrame({'alpha':['A','B','B','C','D','E'],'feature1':[1,1,2,3,3,1], 'feature2':['low','medium','medium','high','low','high']}) # 定義df2 df2 = pd.DataFrame({'alpha':['A','A','B','F'],'pazham':['apple','orange','pine','pear'], 'kilo':['high','low','high','medium'],'price':np.array([5,6,5,7])}) # 基于共同列alpha的內(nèi)連接 df4 = pd.merge(df1,df2,how='outer',on='alpha') df4
若兩個(gè)dataframe間除了on設(shè)置的連接列外并無相同列,則該列的值置為NaN。
1.3 左連接
how='left',dataframe的鏈接方式為左連接,我們可以理解基于左邊位置dataframe的列進(jìn)行連接,參數(shù)on設(shè)置連接的共有列名?! ?/p>
# 單列的左連接 # 定義df1 df1 = pd.DataFrame({'alpha':['A','B','B','C','D','E'],'feature1':[1,1,2,3,3,1], 'feature2':['low','medium','medium','high','low','high']}) # 定義df2 df2 = pd.DataFrame({'alpha':['A','A','B','F'],'pazham':['apple','orange','pine','pear'], 'kilo':['high','low','high','medium'],'price':np.array([5,6,5,7])}) # 基于共同列alpha的左連接 df5 = pd.merge(df1,df2,how='left',on='alpha') df5
因?yàn)閐f2的連接列alpha有兩個(gè)'A'值,所以左連接的df5有兩個(gè)'A'值,若兩個(gè)dataframe間除了on設(shè)置的連接列外并無相同列,則該列的值置為NaN。
1.4 右連接
how='right',dataframe的鏈接方式為左連接,我們可以理解基于右邊位置dataframe的列進(jìn)行連接,參數(shù)on設(shè)置連接的共有列名。
# 單列的右連接 # 定義df1 df1 = pd.DataFrame({'alpha':['A','B','B','C','D','E'],'feature1':[1,1,2,3,3,1], 'feature2':['low','medium','medium','high','low','high']}) # 定義df2 df2 = pd.DataFrame({'alpha':['A','A','B','F'],'pazham':['apple','orange','pine','pear'], 'kilo':['high','low','high','medium'],'price':np.array([5,6,5,7])}) # 基于共同列alpha的右連接 df6 = pd.merge(df1,df2,how='right',on='alpha') df6
因?yàn)閐f1的連接列alpha有兩個(gè)'B'值,所以右連接的df6有兩個(gè)'B'值。若兩個(gè)dataframe間除了on設(shè)置的連接列外并無相同列,則該列的值置為NaN。
1.5 基于多列的連接算法
多列連接的算法與單列連接一致,本節(jié)只介紹基于多列的內(nèi)連接和右連接,讀者可自己編碼并按照本文給出的圖解方式去理解外連接和左連接。
多列的內(nèi)連接:
# 多列的內(nèi)連接 # 定義df1 df1 = pd.DataFrame({'alpha':['A','B','B','C','D','E'],'beta':['a','a','b','c','c','e'], 'feature1':[1,1,2,3,3,1],'feature2':['low','medium','medium','high','low','high']}) # 定義df2 df2 = pd.DataFrame({'alpha':['A','A','B','F'],'beta':['d','d','b','f'],'pazham':['apple','orange','pine','pear'], 'kilo':['high','low','high','medium'],'price':np.array([5,6,5,7])}) # 基于共同列alpha和beta的內(nèi)連接 df7 = pd.merge(df1,df2,on=['alpha','beta'],how='inner') df7
多列的右連接:
# 多列的右連接 # 定義df1 df1 = pd.DataFrame({'alpha':['A','B','B','C','D','E'],'beta':['a','a','b','c','c','e'], 'feature1':[1,1,2,3,3,1],'feature2':['low','medium','medium','high','low','high']}) # 定義df2 df2 = pd.DataFrame({'alpha':['A','A','B','F'],'beta':['d','d','b','f'],'pazham':['apple','orange','pine','pear'], 'kilo':['high','low','high','medium'],'price':np.array([5,6,5,7])}) print(df1) print(df2) # 基于共同列alpha和beta的右連接 df8 = pd.merge(df1,df2,on=['alpha','beta'],how='right') df8
1.6 基于index的連接方法
前面介紹了基于column的連接方法,merge方法亦可基于index連接dataframe。
# 基于column和index的右連接 # 定義df1 df1 = pd.DataFrame({'alpha':['A','B','B','C','D','E'],'beta':['a','a','b','c','c','e'], 'feature1':[1,1,2,3,3,1],'feature2':['low','medium','medium','high','low','high']}) # 定義df2 df2 = pd.DataFrame({'alpha':['A','A','B','F'],'pazham':['apple','orange','pine','pear'], 'kilo':['high','low','high','medium'],'price':np.array([5,6,5,7])},index=['d','d','b','f']) print(df1) print(df2) # 基于df1的beta列和df2的index連接 df9 = pd.merge(df1,df2,how='inner',left_on='beta',right_index=True) df9
圖解index和column的內(nèi)連接方法:
設(shè)置參數(shù)suffixes以修改除連接列外相同列的后綴名。
# 基于df1的alpha列和df2的index內(nèi)連接 df9 = pd.merge(df1,df2,how='inner',left_on='beta',right_index=True,suffixes=('_df1','_df2')) df9
2. join方法
join方法是基于index連接dataframe,merge方法是基于column連接,連接方法有內(nèi)連接,外連接,左連接和右連接,與merge一致。
index與index的連接:
caller = pd.DataFrame({'key': ['K0', 'K1', 'K2', 'K3', 'K4', 'K5'], 'A': ['A0', 'A1', 'A2', 'A3', 'A4', 'A5']}) other = pd.DataFrame({'key': ['K0', 'K1', 'K2'],'B': ['B0', 'B1', 'B2']}) print(caller)print(other)# lsuffix和rsuffix設(shè)置連接的后綴名 caller.join(other,lsuffix='_caller', rsuffix='_other',how='inner')
join也可以基于列進(jìn)行連接:
caller = pd.DataFrame({'key': ['K0', 'K1', 'K2', 'K3', 'K4', 'K5'], 'A': ['A0', 'A1', 'A2', 'A3', 'A4', 'A5']}) other = pd.DataFrame({'key': ['K0', 'K1', 'K2'],'B': ['B0', 'B1', 'B2']}) print(caller) print(other) # 基于key列進(jìn)行連接 caller.set_index('key').join(other.set_index('key'),how='inner')
因此,join和merge的連接方法類似,這里就不展開join方法了,建議用merge方法。
3. concat方法
concat方法是拼接函數(shù),有行拼接和列拼接,默認(rèn)是行拼接,拼接方法默認(rèn)是外拼接(并集),拼接的對(duì)象是pandas數(shù)據(jù)類型。
3.1 series類型的拼接方法
行拼接:
df1 = pd.Series([1.1,2.2,3.3],index=['i1','i2','i3']) df2 = pd.Series([4.4,5.5,6.6],index=['i2','i3','i4']) print(df1) print(df2) # 行拼接 pd.concat([df1,df2])
行拼接若有相同的索引,為了區(qū)分索引,我們?cè)谧钔鈱佣x了索引的分組情況。
# 對(duì)行拼接分組 pd.concat([df1,df2],keys=['fea1','fea2'])
列拼接:
默認(rèn)以并集的方式拼接:
# 列拼接,默認(rèn)是并集 pd.concat([df1,df2],axis=1)
以交集的方式拼接:
# 列拼接的內(nèi)連接(交) pd.concat([df1,df2],axis=1,join='inner')
設(shè)置列拼接的列名:
# 列拼接的內(nèi)連接(交) pd.concat([df1,df2],axis=1,join='inner',keys=['fea1','fea2'])
對(duì)指定的索引拼接:
# 指定索引[i1,i2,i3]的列拼接 pd.concat([df1,df2],axis=1,join_axes=[['i1','i2','i3']])
3.2 dataframe類型的拼接方法
行拼接:
df1 = pd.DataFrame({'key': ['K0', 'K1', 'K2', 'K3', 'K4', 'K5'], 'A': ['A0', 'A1', 'A2', 'A3', 'A4', 'A5']}) df2 = pd.DataFrame({'key': ['K0', 'K1', 'K2'],'B': ['B0', 'B1', 'B2']}) print(df1) print(df2) # 行拼接 pd.concat([df1,df2])
列拼接:
# 列拼接 pd.concat([df1,df2],axis=1)
若列拼接或行拼接有重復(fù)的列名和行名,則報(bào)錯(cuò):
# 判斷是否有重復(fù)的列名,若有則報(bào)錯(cuò) pd.concat([df1,df2],axis=1,verify_integrity = True)
ValueError: Indexes have overlapping values: ['key']
4. 小結(jié)
merge和join方法基本上能實(shí)現(xiàn)相同的功能,建議用merge。
到此這篇關(guān)于pandas數(shù)據(jù)的合并與拼接的實(shí)現(xiàn)的文章就介紹到這了,更多相關(guān)pandas數(shù)據(jù)合并與拼接內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Python的“二維”字典 (two-dimension dictionary)定義與實(shí)現(xiàn)方法
這篇文章主要介紹了Python的“二維”字典 (two-dimension dictionary)定義與實(shí)現(xiàn)方法,結(jié)合實(shí)例形式分析了Python模擬實(shí)現(xiàn)類似二維數(shù)組形式的二維字典功能,需要的朋友可以參考下2016-04-04Python 字符串轉(zhuǎn)換為整形和浮點(diǎn)類型的方法
今天小編就為大家分享一篇Python 字符串轉(zhuǎn)換為整形和浮點(diǎn)類型的方法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2018-07-07Python pygame實(shí)現(xiàn)中國象棋單機(jī)版源碼
今天給大家?guī)淼氖顷P(guān)于Python實(shí)戰(zhàn)的相關(guān)知識(shí),文章圍繞著用Python pygame實(shí)現(xiàn)中國象棋單機(jī)版展開,文中有非常詳細(xì)的代碼示例,需要的朋友可以參考下2021-06-06Python實(shí)現(xiàn)數(shù)據(jù)透視表詳解
今天小編就為大家分享一篇用Python實(shí)現(xiàn)數(shù)據(jù)的透視表的方法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2021-10-10對(duì)python3中pathlib庫的Path類的使用詳解
今天小編就為大家分享一篇對(duì)python3中pathlib庫的Path類的使用詳解,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2018-10-10利用python3隨機(jī)生成中文字符的實(shí)現(xiàn)方法
最近在學(xué)習(xí)python3,發(fā)現(xiàn)網(wǎng)上關(guān)于ptyhon3隨機(jī)生成中文的資料非常少,所以決定將自己實(shí)現(xiàn)的方法分享下,下面這篇文章主要給大家介紹了關(guān)于利用python3隨機(jī)生成中文字符的實(shí)現(xiàn)方法,需要的朋友可以參考借鑒,下面來一起看看吧。2017-11-11