python數(shù)據(jù)處理67個(gè)pandas函數(shù)總結(jié)看完就用
不管是業(yè)務(wù)數(shù)據(jù)分析 ,還是數(shù)據(jù)建模。數(shù)據(jù)處理都是及其重要的一個(gè)步驟,它對(duì)于最終的結(jié)果來(lái)說(shuō),至關(guān)重要。
今天,就為大家總結(jié)一下 “Pandas數(shù)據(jù)處理” 幾個(gè)方面重要的知識(shí),拿來(lái)即用,隨查隨查。
- 導(dǎo)⼊數(shù)據(jù)
- 導(dǎo)出數(shù)據(jù)
- 查看數(shù)據(jù)
- 數(shù)據(jù)選取
- 數(shù)據(jù)處理
- 數(shù)據(jù)分組和排序
- 數(shù)據(jù)合并
# 在使用之前,需要導(dǎo)入pandas庫(kù) import pandas as pd
導(dǎo)⼊數(shù)據(jù)
這里我為大家總結(jié)7個(gè)常見(jiàn)用法。
pd.DataFrame() # 自己創(chuàng)建數(shù)據(jù)框,用于練習(xí) pd.read_csv(filename) # 從CSV⽂件導(dǎo)⼊數(shù)據(jù) pd.read_table(filename) # 從限定分隔符的⽂本⽂件導(dǎo)⼊數(shù)據(jù) pd.read_excel(filename) # 從Excel⽂件導(dǎo)⼊數(shù)據(jù) pd.read_sql(query,connection_object) # 從SQL表/庫(kù)導(dǎo)⼊數(shù)據(jù) pd.read_json(json_string) # 從JSON格式的字符串導(dǎo)⼊數(shù)據(jù) pd.read_html(url) # 解析URL、字符串或者HTML⽂件,抽取其中的tables表格
導(dǎo)出數(shù)據(jù)
這里為大家總結(jié)5個(gè)常見(jiàn)用法。
df.to_csv(filename) #導(dǎo)出數(shù)據(jù)到CSV⽂件 df.to_excel(filename) #導(dǎo)出數(shù)據(jù)到Excel⽂件 df.to_sql(table_name,connection_object) #導(dǎo)出數(shù)據(jù)到SQL表 df.to_json(filename) #以Json格式導(dǎo)出數(shù)據(jù)到⽂本⽂件 writer=pd.ExcelWriter('test.xlsx',index=False) df1.to_excel(writer,sheet_name='單位')和writer.save(),將多個(gè)數(shù)據(jù)幀寫⼊同⼀個(gè)⼯作簿的多個(gè)sheet(⼯作表)
查看數(shù)據(jù)
這里為大家總結(jié)11個(gè)常見(jiàn)用法。
df.head(n) # 查看DataFrame對(duì)象的前n⾏ df.tail(n) # 查看DataFrame對(duì)象的最后n⾏ df.shape() # 查看⾏數(shù)和列數(shù) df.info() # 查看索引、數(shù)據(jù)類型和內(nèi)存信息 df.columns() # 查看字段(⾸⾏)名稱 df.describe() # 查看數(shù)值型列的匯總統(tǒng)計(jì) s.value_counts(dropna=False) # 查看Series對(duì)象的唯⼀值和計(jì)數(shù) df.apply(pd.Series.value_counts) # 查看DataFrame對(duì)象中每⼀列的唯⼀值和計(jì)數(shù) df.isnull().any() # 查看是否有缺失值 df[df[column_name].duplicated()] # 查看column_name字段數(shù)據(jù)重復(fù)的數(shù)據(jù)信息 df[df[column_name].duplicated()].count() # 查看column_name字段數(shù)據(jù)重復(fù)的個(gè)數(shù)
數(shù)據(jù)選取
這里為大家總結(jié)10個(gè)常見(jiàn)用法。
df[col] # 根據(jù)列名,并以Series的形式返回列 df[[col1,col2]] # 以DataFrame形式返回多列 s.iloc[0] # 按位置選取數(shù)據(jù) s.loc['index_one'] # 按索引選取數(shù)據(jù) df.iloc[0,:] # 返回第⼀⾏ df.iloc[0,0] # 返回第⼀列的第⼀個(gè)元素 df.loc[0,:] # 返回第⼀⾏(索引為默認(rèn)的數(shù)字時(shí),⽤法同df.iloc),但需要注意的是loc是按索引,iloc參數(shù)只接受數(shù)字參數(shù) df.ix[[:5],["col1","col2"]] # 返回字段為col1和col2的前5條數(shù)據(jù),可以理解為loc和 iloc的結(jié)合體。 df.at[5,"col1"] # 選擇索引名稱為5,字段名稱為col1的數(shù)據(jù) df.iat[5,0] # 選擇索引排序?yàn)?,字段排序?yàn)?的數(shù)據(jù)
數(shù)據(jù)處理
這里為大家總結(jié)16個(gè)常見(jiàn)用法。
df.columns= ['a','b','c'] # 重命名列名(需要將所有列名列出,否則會(huì)報(bào)錯(cuò)) pd.isnull() # 檢查DataFrame對(duì)象中的空值,并返回⼀個(gè)Boolean數(shù)組 pd.notnull() # 檢查DataFrame對(duì)象中的⾮空值,并返回⼀個(gè)Boolean數(shù)組 df.dropna() # 刪除所有包含空值的⾏ df.dropna(axis=1) # 刪除所有包含空值的列 df.dropna(axis=1,thresh=n) # 刪除所有⼩于n個(gè)⾮空值的⾏ df.fillna(value=x) # ⽤x替換DataFrame對(duì)象中所有的空值,⽀持 df[column_name].fillna(x) s.astype(float) # 將Series中的數(shù)據(jù)類型更改為float類型 s.replace(1,'one') # ⽤‘one'代替所有等于1的值 s.replace([1,3],['one','three']) # ⽤'one'代替1,⽤'three'代替3 df.rename(columns=lambdax:x+1) # 批量更改列名 df.rename(columns={'old_name':'new_ name'}) # 選擇性更改列名 df.set_index('column_one') # 將某個(gè)字段設(shè)為索引,可接受列表參數(shù),即設(shè)置多個(gè)索引 df.reset_index("col1") # 將索引設(shè)置為col1字段,并將索引新設(shè)置為0,1,2... df.rename(index=lambdax:x+1) # 批量重命名索引
數(shù)據(jù)分組、排序、透視
這里為大家總結(jié)13個(gè)常見(jiàn)用法。
df.sort_index().loc[:5] # 對(duì)前5條數(shù)據(jù)進(jìn)⾏索引排序 df.sort_values(col1) # 按照列col1排序數(shù)據(jù),默認(rèn)升序排列 df.sort_values(col2,ascending=False) # 按照列col1降序排列數(shù)據(jù) df.sort_values([col1,col2],ascending=[True,False]) # 先按列col1升序排列,后按col2降序排列數(shù)據(jù) df.groupby(col) # 返回⼀個(gè)按列col進(jìn)⾏分組的Groupby對(duì)象 df.groupby([col1,col2]) # 返回⼀個(gè)按多列進(jìn)⾏分組的Groupby對(duì)象 df.groupby(col1)[col2].agg(mean) # 返回按列col1進(jìn)⾏分組后,列col2的均值,agg可以接受列表參數(shù),agg([len,np.mean]) df.pivot_table(index=col1,values=[col2,col3],aggfunc={col2:max,col3:[ma,min]}) # 創(chuàng)建⼀個(gè)按列col1進(jìn)⾏分組,計(jì)算col2的最⼤值和col3的最⼤值、最⼩值的數(shù)據(jù)透視表 df.groupby(col1).agg(np.mean) # 返回按列col1分組的所有列的均值,⽀持 df.groupby(col1).col2.agg(['min','max']) data.apply(np.mean) # 對(duì)DataFrame中的每⼀列應(yīng)⽤函數(shù)np.mean data.apply(np.max,axis=1) # 對(duì)DataFrame中的每⼀⾏應(yīng)⽤函數(shù)np.max df.groupby(col1).col2.transform("sum") # 通常與groupby連⽤,避免索引更改
數(shù)據(jù)合并
這里為大家總結(jié)5個(gè)常見(jiàn)用法。
df1.append(df2) # 將df2中的⾏添加到df1的尾部 df.concat([df1,df2],axis=1,join='inner') # 將df2中的列添加到df1的尾部,值為空的對(duì)應(yīng)⾏與對(duì)應(yīng)列都不要 df1.join(df2.set_index(col1),on=col1,how='inner') # 對(duì)df1的列和df2的列執(zhí)⾏SQL形式的join,默認(rèn)按照索引來(lái)進(jìn)⾏合并,如果df1和df2有共同字段時(shí),會(huì)報(bào)錯(cuò),可通過(guò)設(shè)置lsuffix,rsuffix來(lái)進(jìn)⾏解決,如果需要按照共同列進(jìn)⾏合并,就要⽤到set_index(col1) pd.merge(df1,df2,on='col1',how='outer') # 對(duì)df1和df2合并,按照col1,⽅式為outer pd.merge(df1,df2,left_index=True,right_index=True,how='outer') #與 df1.join(df2, how='outer')效果相同
以上就是python數(shù)據(jù)處理67個(gè)pandas函數(shù)總結(jié)看完就用的詳細(xì)內(nèi)容,更多關(guān)于python數(shù)據(jù)處理6pandas函數(shù)的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!
- python?pandas處理excel表格數(shù)據(jù)的常用方法總結(jié)
- python數(shù)據(jù)處理之Pandas類型轉(zhuǎn)換的實(shí)現(xiàn)
- Python?Pandas讀取Excel日期數(shù)據(jù)的異常處理方法
- Python數(shù)據(jù)處理的26個(gè)Pandas實(shí)用技巧總結(jié)
- python?pandas數(shù)據(jù)處理教程之合并與拼接
- python優(yōu)化數(shù)據(jù)預(yù)處理方法Pandas pipe詳解
- VBA處理數(shù)據(jù)與Python Pandas處理數(shù)據(jù)案例比較分析
- Python使用Pandas對(duì)csv文件進(jìn)行數(shù)據(jù)處理的方法
- Python利用pandas處理Excel數(shù)據(jù)的應(yīng)用詳解
- 利用Python的pandas數(shù)據(jù)處理包將寬表變成窄表
相關(guān)文章
使用pyQT5顯示網(wǎng)頁(yè)的實(shí)現(xiàn)步驟
本文主要介紹了使用pyQT5顯示網(wǎng)頁(yè)的實(shí)現(xiàn)步驟,文中通過(guò)示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2021-10-10Python開(kāi)發(fā)必須掌握的Pip使用全攻略
在這篇文章中,我們將深入探討Python的主要包管理工具——Pip,包括Pip的基本概念、安裝和配置、中國(guó)國(guó)內(nèi)鏡像源的使用等,需要的可以參考一下2023-07-07對(duì)python中for、if、while的區(qū)別與比較方法
今天小編就為大家分享一篇對(duì)python中for 、if、 while的區(qū)別與比較方法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2018-06-06Python實(shí)現(xiàn)根據(jù)Excel生成Model和數(shù)據(jù)導(dǎo)入腳本
最近遇到一個(gè)需求,有幾十個(gè)Excel,每個(gè)的字段都不一樣,然后都差不多是第一行是表頭,后面幾千上萬(wàn)的數(shù)據(jù),需要把這些Excel中的數(shù)據(jù)全都加入某個(gè)已經(jīng)上線的Django項(xiàng)目。所以我造了個(gè)自動(dòng)生成?Model和導(dǎo)入腳本的輪子,希望對(duì)大家有所幫助2022-11-11基于Python實(shí)現(xiàn)在線二維碼生成工具
這篇文章將為大家展示如何通過(guò)純Python編程的方式,開(kāi)發(fā)出一個(gè)網(wǎng)頁(yè)應(yīng)用—基于輸入的網(wǎng)址等文字內(nèi)容實(shí)現(xiàn)二維碼的生成,感興趣的可以學(xué)習(xí)一下2022-05-05python @classmethod 的使用場(chǎng)合詳解
這篇文章主要介紹了python @classmethod 的使用場(chǎng)合詳解,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2019-08-08基于python實(shí)現(xiàn)語(yǔ)音錄入識(shí)別代碼實(shí)例
這篇文章主要介紹了如何通過(guò)python實(shí)現(xiàn)語(yǔ)音錄入識(shí)別,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-01-01