Pandas使用Merge與Join和Concat分別進行合并數(shù)據(jù)效率對比分析
在 Pandas 中有很多種方法可以進行dataframe(數(shù)據(jù)框)的合并。
本文將研究這些不同的方法,以及如何將它們執(zhí)行速度的對比。
合并DF
Pandas 使用 .merge() 方法來執(zhí)行合并。
import pandas as pd # a dictionary to convert to a dataframe data1 = {'identification': ['a', 'b', 'c', 'd'], 'Customer_Name':['King', 'West', 'Adams', 'Mercy'], 'Category':['furniture', 'Office Supplies', 'Technology', 'R_materials'],} # our second dictionary to convert to a dataframe data2 = {'identification': ['a', 'b', 'c', 'd'], 'Class':['First_Class', 'Second_Class', 'Same_day', 'Standard Class'], 'Age':[60, 30, 40, 50]} # Convert the dictionary into DataFrame df1 = pd.DataFrame(data1) df2 = pd.DataFrame(data2)
運行我們的代碼后,有兩個 DataFrame,如下所示。
identification Customer_Name Category
0 a King furniture
1 b West Office Supplies
2 c Adams Technology
3 d Mercy R_materials
identification Class Age
0 a First_Class 60
1 b Second_Class 30
2 c Same_day 40
3 d Standard Class 50
使用 merge() 函數(shù)進一步合并。
import pandas as pd df1=... df2=... x= pd. merge( df1,df2, left_on = "df1_col1", right_on = "df2_col1" )
# using .merge() function new_data = pd.merge(df1, df2, on='identification')
這產(chǎn)生了下面的新數(shù)據(jù);
identification Customer_Name Category Class Age
0 a King furniture First_Class 60
1 b West Office Supplies Second_Class 30
2 c Adams Technology Same_day 40
3 d Mercy R_materials Standard Class 50
.join() 方法也可以將不同索引的 DataFrame 組合成一個新的 DataFrame。我們可以使用參數(shù)‘on’參數(shù)指定根據(jù)哪列進行合并。
import pandas as pd df1 = ... df2 = ... df1.set_index ( "df1_col1", inplace = True) df2.set_index ( "df2_col1", inplace = True) x=df1.join( df2)
讓我們看看下面的例子,我們如何將單索引 DataFrame 與多索引 DataFrame 連接起來;
import pandas as pd # a dictionary to convert to a dataframe data1 = { 'Customer_Name':['King', 'West', 'Adams'], 'Category':['furniture', 'Office Supplies', 'Technology'],} 7 # our second dictionary to convert to a dataframe data2 = { 'Class':['First_Class', 'Second_Class', 'Same_day', 'Standard Class'], 'Age':[60, 30, 40, 50]} # Convert the dictionary into DataFrame Ndata = pd.DataFrame(data1, index=pd.Index(['a', 'b', 'c'], name='identification')) index = pd.MultiIndex.from_tuples([('a', 'x0'), ('b', 'x1'), ('c', 'x2'), ('c', 'x3')], names=['identification', 'x']) 19 # Convert the dictionary into DataFrame Ndata2 = pd.DataFrame(data2, index= index) print(Ndata, "\n\n", Ndata2) # joining singly indexed with # multi indexed result = Ndata.join(Ndata2, how='inner')
我們的結果如下所示;
Customer_Name Category Class Age
identification x 3 a x0 King furniture First_Class 60
b x1 West Office Supplies Second_Class 30
c x2 Adams Technology Same_day 40
x3 Adams Technology Standard Class 50
連接DF
Pandas 中concat() 方法在可以在垂直方向(axis=0)和水平方向(axis=1)上連接 DataFrame。我們還可以一次連接兩個以上的 DataFrame 或 Series。
讓我們看一個如何在 Pandas 中執(zhí)行連接的示例;
import pandas as pd # a dictionary to convert to a dataframe data1 = {'identification': ['a', 'b', 'c', 'd'], 'Customer_Name':['King', 'West', 'Adams', 'Mercy'], 'Category':['furniture', 'Office Supplies', 'Technology', 'R_materials'],} # our second dictionary to convert to a dataframe data2 = {'identification': ['a', 'b', 'c', 'd'], 'Class':['First_Class', 'Second_Class', 'Same_day', 'Standard Class'], 'Age':[60, 30, 40, 50]} # Convert the dictionary into DataFrame df1 = pd.DataFrame(data1) df2 = pd.DataFrame(data2) #perform concatenation here based on horizontal axis new_data = pd.concat([df1, df2], axis=1) print(new_data)
這樣就獲得了新的 DataFrame :
identification Customer_Name Category identification \
0 a King furniture a 3 1 b West Office Supplies b 4 2 c Adams Technology c 5 3 d Mercy R_materials d
Class Age
0 First_Class 60
1 Second_Class 30
2 Same_day 40
3 Standard Class 50
Merge和Join的效率對比
Pandas 中的Merge Joins操作都可以針對指定的列進行合并操作(SQL中的join)那么他們的執(zhí)行效率是否相同呢?下面我們來進行一下測。
兩個 DataFrame 都有相同數(shù)量的行和兩列,實驗中考慮了從 100 萬行到 1000 萬行的不同大小的 DataFrame,并在每次實驗中將行數(shù)增加了 100 萬。我對固定數(shù)量的行重復了十次實驗,以消除任何隨機性。下面是這十次試驗中合并操作的平均運行時間。
上圖描繪了操作所花費的時間(以毫秒為單位)。
正如我們從圖中看到的,運行時間存在顯著差異——最多相差 5 倍。隨著 DataFrame 大小的增加,運行時間之間的差異也會增加。兩個 JOIN 操作幾乎都隨著 DataFrame 的大小線性增加。但是,Join的運行時間增加的速度遠低于Merge。
如果需要處理大量數(shù)據(jù),還是請使用join()進行操作。
到此這篇關于Pandas使用Merge與Join和Concat分別進行合并數(shù)據(jù)效率對比分析的文章就介紹到這了,更多相關Pandas合并數(shù)據(jù)效率內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!
相關文章
Python實現(xiàn)監(jiān)控屏幕界面內容變化并發(fā)送通知
這篇文章主要為大家詳細介紹了如何利用Python實現(xiàn)實時監(jiān)控屏幕上的信息是否發(fā)生變化并發(fā)送通知,文中的示例代碼講解詳細,感興趣的可以了解一下2023-04-04python openpyxl方法 zip函數(shù)用法及說明
這篇文章主要介紹了python openpyxl方法 zip函數(shù)用法及說明,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2023-05-05python數(shù)學建模之Numpy?應用介紹與Pandas學習
這篇文章主要介紹了python數(shù)學建模之Numpy?應用介紹與Pandas學習,NumPy?是一個運行速度非??斓臄?shù)學庫,一個開源的的python科學計算庫,主要用于數(shù)組、矩陣計算2022-07-07python web自制框架之接受url傳遞過來的參數(shù)實例
今天小編就為大家分享一篇python web自制框架之接受url傳遞過來的參數(shù)實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-12-12Python importlib動態(tài)導入模塊實現(xiàn)代碼
這篇文章主要介紹了Python importlib動態(tài)導入模塊實現(xiàn)代碼,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下2020-04-04