python數(shù)據(jù)處理67個pandas函數(shù)總結看完就用
不管是業(yè)務數(shù)據(jù)分析 ,還是數(shù)據(jù)建模。數(shù)據(jù)處理都是及其重要的一個步驟,它對于最終的結果來說,至關重要。
今天,就為大家總結一下 “Pandas數(shù)據(jù)處理” 幾個方面重要的知識,拿來即用,隨查隨查。
- 導⼊數(shù)據(jù)
- 導出數(shù)據(jù)
- 查看數(shù)據(jù)
- 數(shù)據(jù)選取
- 數(shù)據(jù)處理
- 數(shù)據(jù)分組和排序
- 數(shù)據(jù)合并
# 在使用之前,需要導入pandas庫 import pandas as pd
導⼊數(shù)據(jù)
這里我為大家總結7個常見用法。
pd.DataFrame() # 自己創(chuàng)建數(shù)據(jù)框,用于練習 pd.read_csv(filename) # 從CSV⽂件導⼊數(shù)據(jù) pd.read_table(filename) # 從限定分隔符的⽂本⽂件導⼊數(shù)據(jù) pd.read_excel(filename) # 從Excel⽂件導⼊數(shù)據(jù) pd.read_sql(query,connection_object) # 從SQL表/庫導⼊數(shù)據(jù) pd.read_json(json_string) # 從JSON格式的字符串導⼊數(shù)據(jù) pd.read_html(url) # 解析URL、字符串或者HTML⽂件,抽取其中的tables表格
導出數(shù)據(jù)
這里為大家總結5個常見用法。
df.to_csv(filename) #導出數(shù)據(jù)到CSV⽂件 df.to_excel(filename) #導出數(shù)據(jù)到Excel⽂件 df.to_sql(table_name,connection_object) #導出數(shù)據(jù)到SQL表 df.to_json(filename) #以Json格式導出數(shù)據(jù)到⽂本⽂件 writer=pd.ExcelWriter('test.xlsx',index=False) df1.to_excel(writer,sheet_name='單位')和writer.save(),將多個數(shù)據(jù)幀寫⼊同⼀個⼯作簿的多個sheet(⼯作表)
查看數(shù)據(jù)
這里為大家總結11個常見用法。
df.head(n) # 查看DataFrame對象的前n⾏ df.tail(n) # 查看DataFrame對象的最后n⾏ df.shape() # 查看⾏數(shù)和列數(shù) df.info() # 查看索引、數(shù)據(jù)類型和內存信息 df.columns() # 查看字段(⾸⾏)名稱 df.describe() # 查看數(shù)值型列的匯總統(tǒng)計 s.value_counts(dropna=False) # 查看Series對象的唯⼀值和計數(shù) df.apply(pd.Series.value_counts) # 查看DataFrame對象中每⼀列的唯⼀值和計數(shù) df.isnull().any() # 查看是否有缺失值 df[df[column_name].duplicated()] # 查看column_name字段數(shù)據(jù)重復的數(shù)據(jù)信息 df[df[column_name].duplicated()].count() # 查看column_name字段數(shù)據(jù)重復的個數(shù)
數(shù)據(jù)選取
這里為大家總結10個常見用法。
df[col] # 根據(jù)列名,并以Series的形式返回列 df[[col1,col2]] # 以DataFrame形式返回多列 s.iloc[0] # 按位置選取數(shù)據(jù) s.loc['index_one'] # 按索引選取數(shù)據(jù) df.iloc[0,:] # 返回第⼀⾏ df.iloc[0,0] # 返回第⼀列的第⼀個元素 df.loc[0,:] # 返回第⼀⾏(索引為默認的數(shù)字時,⽤法同df.iloc),但需要注意的是loc是按索引,iloc參數(shù)只接受數(shù)字參數(shù) df.ix[[:5],["col1","col2"]] # 返回字段為col1和col2的前5條數(shù)據(jù),可以理解為loc和 iloc的結合體。 df.at[5,"col1"] # 選擇索引名稱為5,字段名稱為col1的數(shù)據(jù) df.iat[5,0] # 選擇索引排序為5,字段排序為0的數(shù)據(jù)
數(shù)據(jù)處理
這里為大家總結16個常見用法。
df.columns= ['a','b','c'] # 重命名列名(需要將所有列名列出,否則會報錯) pd.isnull() # 檢查DataFrame對象中的空值,并返回⼀個Boolean數(shù)組 pd.notnull() # 檢查DataFrame對象中的⾮空值,并返回⼀個Boolean數(shù)組 df.dropna() # 刪除所有包含空值的⾏ df.dropna(axis=1) # 刪除所有包含空值的列 df.dropna(axis=1,thresh=n) # 刪除所有⼩于n個⾮空值的⾏ df.fillna(value=x) # ⽤x替換DataFrame對象中所有的空值,⽀持 df[column_name].fillna(x) s.astype(float) # 將Series中的數(shù)據(jù)類型更改為float類型 s.replace(1,'one') # ⽤‘one'代替所有等于1的值 s.replace([1,3],['one','three']) # ⽤'one'代替1,⽤'three'代替3 df.rename(columns=lambdax:x+1) # 批量更改列名 df.rename(columns={'old_name':'new_ name'}) # 選擇性更改列名 df.set_index('column_one') # 將某個字段設為索引,可接受列表參數(shù),即設置多個索引 df.reset_index("col1") # 將索引設置為col1字段,并將索引新設置為0,1,2... df.rename(index=lambdax:x+1) # 批量重命名索引
數(shù)據(jù)分組、排序、透視
這里為大家總結13個常見用法。
df.sort_index().loc[:5] # 對前5條數(shù)據(jù)進⾏索引排序 df.sort_values(col1) # 按照列col1排序數(shù)據(jù),默認升序排列 df.sort_values(col2,ascending=False) # 按照列col1降序排列數(shù)據(jù) df.sort_values([col1,col2],ascending=[True,False]) # 先按列col1升序排列,后按col2降序排列數(shù)據(jù) df.groupby(col) # 返回⼀個按列col進⾏分組的Groupby對象 df.groupby([col1,col2]) # 返回⼀個按多列進⾏分組的Groupby對象 df.groupby(col1)[col2].agg(mean) # 返回按列col1進⾏分組后,列col2的均值,agg可以接受列表參數(shù),agg([len,np.mean]) df.pivot_table(index=col1,values=[col2,col3],aggfunc={col2:max,col3:[ma,min]}) # 創(chuàng)建⼀個按列col1進⾏分組,計算col2的最⼤值和col3的最⼤值、最⼩值的數(shù)據(jù)透視表 df.groupby(col1).agg(np.mean) # 返回按列col1分組的所有列的均值,⽀持 df.groupby(col1).col2.agg(['min','max']) data.apply(np.mean) # 對DataFrame中的每⼀列應⽤函數(shù)np.mean data.apply(np.max,axis=1) # 對DataFrame中的每⼀⾏應⽤函數(shù)np.max df.groupby(col1).col2.transform("sum") # 通常與groupby連⽤,避免索引更改
數(shù)據(jù)合并
這里為大家總結5個常見用法。
df1.append(df2) # 將df2中的⾏添加到df1的尾部 df.concat([df1,df2],axis=1,join='inner') # 將df2中的列添加到df1的尾部,值為空的對應⾏與對應列都不要 df1.join(df2.set_index(col1),on=col1,how='inner') # 對df1的列和df2的列執(zhí)⾏SQL形式的join,默認按照索引來進⾏合并,如果df1和df2有共同字段時,會報錯,可通過設置lsuffix,rsuffix來進⾏解決,如果需要按照共同列進⾏合并,就要⽤到set_index(col1) pd.merge(df1,df2,on='col1',how='outer') # 對df1和df2合并,按照col1,⽅式為outer pd.merge(df1,df2,left_index=True,right_index=True,how='outer') #與 df1.join(df2, how='outer')效果相同
以上就是python數(shù)據(jù)處理67個pandas函數(shù)總結看完就用的詳細內容,更多關于python數(shù)據(jù)處理6pandas函數(shù)的資料請關注腳本之家其它相關文章!
- python?pandas處理excel表格數(shù)據(jù)的常用方法總結
- python數(shù)據(jù)處理之Pandas類型轉換的實現(xiàn)
- Python?Pandas讀取Excel日期數(shù)據(jù)的異常處理方法
- Python數(shù)據(jù)處理的26個Pandas實用技巧總結
- python?pandas數(shù)據(jù)處理教程之合并與拼接
- python優(yōu)化數(shù)據(jù)預處理方法Pandas pipe詳解
- VBA處理數(shù)據(jù)與Python Pandas處理數(shù)據(jù)案例比較分析
- Python使用Pandas對csv文件進行數(shù)據(jù)處理的方法
- Python利用pandas處理Excel數(shù)據(jù)的應用詳解
- 利用Python的pandas數(shù)據(jù)處理包將寬表變成窄表
相關文章
對python中for、if、while的區(qū)別與比較方法
今天小編就為大家分享一篇對python中for 、if、 while的區(qū)別與比較方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-06-06Python實現(xiàn)根據(jù)Excel生成Model和數(shù)據(jù)導入腳本
最近遇到一個需求,有幾十個Excel,每個的字段都不一樣,然后都差不多是第一行是表頭,后面幾千上萬的數(shù)據(jù),需要把這些Excel中的數(shù)據(jù)全都加入某個已經上線的Django項目。所以我造了個自動生成?Model和導入腳本的輪子,希望對大家有所幫助2022-11-11