Python中的數(shù)據(jù)分組統(tǒng)計(jì)、分組運(yùn)算及透視方式
1 數(shù)據(jù)分組統(tǒng)計(jì) groupby
- 分割 split: 按照鍵值(key)或者分組變量將數(shù)據(jù)分組
- 應(yīng)用 apply: 對(duì)每個(gè)組應(yīng)用函數(shù), 通常是累計(jì),轉(zhuǎn)換或過(guò)濾函數(shù)
- 組合 combine: 將每一組的結(jié)果合并成一個(gè)輸出組
常用功能
1. len(gp1) #組數(shù) 2. gp1.size() #每組的記錄個(gè)數(shù) 3. df3.groupby(["小組","評(píng)級(jí)"]) #得到的結(jié)果是一個(gè)groupby對(duì)象 4. gp1.mean() #每組組內(nèi)的平均值,還有sum、max、min、count 5. apply #自定義統(tǒng)計(jì)函數(shù)(自己定義一個(gè)函數(shù),作為參數(shù),會(huì)自動(dòng)將函數(shù)應(yīng)用到每一組數(shù)據(jù)當(dāng)中去)
1.1 按照單列進(jìn)行分組統(tǒng)計(jì)df.groupby(‘列名’).count()
# 創(chuàng)建示例DataFrame data = {'班級(jí)': ['一班', '一班','一班','二班', '二班','二班','三班','三班','三班'], '科目': ['物理', '化學(xué)', '生物','物理', '化學(xué)', '生物','物理', '化學(xué)', '生物'], '數(shù)量': [17, 29, 18,37,48,32,17, 29, 18], '分?jǐn)?shù)': [87, 89, 88,77,98,82,97, 89, 78]} df = pd.DataFrame(data)
# 創(chuàng)建示例DataFrame data = {'班級(jí)': ['一班', '一班','一班','二班', '二班','二班','三班','三班','三班'], '科目': ['物理','生物','生物','物理', '物理', '生物','化學(xué)', '化學(xué)', '生物'], '姓名': ['張三', '章中', '賀天','紫瞳','西德','魏斯','明峰', '希方', '塞法'], '分?jǐn)?shù)': [87, 89, 88,77,98,82,97, 89, 78]} df = pd.DataFrame(data) #實(shí)現(xiàn)組內(nèi)排序,排序的時(shí)候,科目作為第一排序依據(jù),用來(lái)排序的數(shù)值字段(分?jǐn)?shù))作為第二排序依據(jù) df.sort_values(['科目','分?jǐn)?shù)'],ascending=[False,True]).groupby('科目').head(3)
1.2 按照多列進(jìn)行分組統(tǒng)計(jì) df.groupby([‘列名1’,‘列名2’]).count()
# 創(chuàng)建示例DataFrame data = {'班級(jí)': ['一班', '一班','一班','二班', '二班','二班','三班','三班','三班'], '科目': ['物理','生物','生物','物理', '物理', '生物','化學(xué)', '化學(xué)', '生物'], '姓名': ['張三', '章中', '賀天','紫瞳','西德','魏斯','明峰', '希方', '塞法'], '分?jǐn)?shù)': [87, 89, 88,77,98,82,97, 89, 78]} df = pd.DataFrame(data) #按照科目、班級(jí)進(jìn)行分組求平均 df[['科目','班級(jí)','分?jǐn)?shù)']].groupby(['科目','班級(jí)']).mean()
1.3 分組填充缺失值 df.groupby(‘需填充列名’).apply(lambda x:x.fillna(x.mean()))
# 創(chuàng)建示例DataFrame data = {'年級(jí)': ['1', '1','1','2', '2','3','3','3','3'], '姓名': ['張三', '章中', '賀天','紫瞳','西德','魏斯','明峰', '希方', '塞法'], '年齡': [17, 19, np.NaN,18,np.NaN,15,18, 18,np.NaN ]} df = pd.DataFrame(data) df
#按照年級(jí)分組填充缺失的年齡 df.groupby('年級(jí)').apply(lambda x:x.fillna(x.mean()))
新增加一列 年齡ew 將填充后的年齡補(bǔ)充上去
2 分組運(yùn)算 agg
數(shù)據(jù)聚合(agg):一般指的是能夠從數(shù)組產(chǎn)生的標(biāo)量值的數(shù)據(jù)轉(zhuǎn)換過(guò)程,常見(jiàn)的聚合運(yùn)算都有相關(guān)的統(tǒng)計(jì)函數(shù)快速實(shí)現(xiàn),也可以自定義聚合運(yùn)算。
2.1 傳入標(biāo)準(zhǔn)函數(shù) df.groupby(‘班級(jí)’).agg(np.sum)
data = {'班級(jí)': ['一班', '一班','一班','二班', '二班','二班','三班','三班','三班'], '科目': ['物理', '化學(xué)', '生物','物理', '化學(xué)', '生物','物理', '化學(xué)', '生物'], '數(shù)量': [17, 29, 18,37,48,32,17, 29, 18], '分?jǐn)?shù)': [87, 89, 88,77,98,82,97, 89, 78]} df = pd.DataFrame(data) #數(shù)值列按照分組標(biāo)準(zhǔn)快速聚合 df.groupby('班級(jí)').agg(np.sum)
2.2 不同的列不同的聚合函數(shù) df.groupby(‘班級(jí)’).agg({‘數(shù)量’:np.sum,‘分?jǐn)?shù)’:np.mean})
#不同的列傳入不同的函數(shù) mappping = {'數(shù)量':np.sum,'分?jǐn)?shù)':np.mean} df.groupby('班級(jí)').agg(mappping)
2.3 自定義函數(shù)
#求針對(duì)各科目最高分?jǐn)?shù)與最低分?jǐn)?shù)之間的差值 def cha(x): return x.max() - x.min() df[['科目','分?jǐn)?shù)']].groupby('科目').agg([cha])
2.4 調(diào)用多個(gè)聚合函數(shù)
df[['班級(jí)','分?jǐn)?shù)']].groupby('班級(jí)').agg([np.max,np.min,np.mean])
3 數(shù)據(jù)透視表
3.1 透視表 pivot_table
透視表(pivot table): 透視表指根據(jù)一個(gè)或多個(gè)鍵值對(duì)數(shù)據(jù)進(jìn)行聚合,根據(jù)行或列的分組鍵將數(shù)據(jù)劃分到各個(gè)區(qū)域中
#pivot_table 其實(shí)就是將groupby封裝起來(lái)了 df[['班級(jí)','分?jǐn)?shù)']].pivot_table(index = ['班級(jí)']) #先按照班級(jí)分組,再求mean
data = {'班級(jí)': ['一班', '一班','一班','二班', '二班','二班','三班','三班','三班'], '科目': ['物理', '化學(xué)', '生物','物理', '化學(xué)', '生物','物理', '化學(xué)', '生物'], '數(shù)量': [17, 29, 18,37,48,32,17, 29, 18], '分?jǐn)?shù)': [87, 89, 88,77,98,82,97, 89, 78]} df = pd.DataFrame(data) df.pivot_table(index = ['班級(jí)','科目']) #先按照班級(jí)然后按照科目分許,默認(rèn)求均值
df.pivot_table(index = ['班級(jí)'],aggfunc = np.sum)#求和
pd.pivot_table(df3,values="總分",index="評(píng)級(jí)",columns=["班級(jí)","小組"])
3.2 交叉表 crosstab
交叉表(crosstab): 交叉表用于統(tǒng)計(jì)分組頻率的特殊透視表
#groupby實(shí)現(xiàn)pd.crosstab(df['班級(jí)'],df['科目']) df[['班級(jí)','科目','姓名']].groupby(['班級(jí)','科目']).count().unstack().fillna(0)
總結(jié)
以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
100 個(gè) Python 小例子(練習(xí)題一)
這篇文章主要介紹 Python 小例子,有數(shù)字組合、個(gè)稅計(jì)算、完全平方數(shù)、三數(shù)排序、斐波那契數(shù)列、copy、九九乘法表、暫停一秒輸出等多個(gè)實(shí)例,需要的朋友可以參考一下2021-10-10Python socket實(shí)現(xiàn)簡(jiǎn)單聊天室
這篇文章主要為大家詳細(xì)介紹了Python socket實(shí)現(xiàn)簡(jiǎn)單聊天室,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2018-04-04Python操作lxml庫(kù)實(shí)戰(zhàn)之Xpath篇
XPath是一門(mén)在XML文檔中查找信息的語(yǔ)言,下面這篇文章主要給大家介紹了關(guān)于Python操作lxml庫(kù)實(shí)戰(zhàn)之Xpath篇的相關(guān)資料,文中通過(guò)示例代碼介紹的非常詳細(xì),需要的朋友可以參考下2022-12-12詳解分布式系統(tǒng)中如何用python實(shí)現(xiàn)Paxos
提到分布式算法,就不得不提 Paxos 算法,在過(guò)去幾十年里,它基本上是分布式共識(shí)的代 名詞,因?yàn)楫?dāng)前最常用的一批共識(shí)算法都是基于它改進(jìn)的。比如,F(xiàn)ast Paxos 算法、 Cheap Paxos 算法、Raft 算法、ZAB 協(xié)議等等。2021-05-05python+opencv實(shí)現(xiàn)目標(biāo)跟蹤過(guò)程
這篇文章主要介紹了python+opencv實(shí)現(xiàn)目標(biāo)跟蹤過(guò)程,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2022-06-06python實(shí)現(xiàn)Pyecharts實(shí)現(xiàn)動(dòng)態(tài)地圖(Map、Geo)
這篇文章主要為大家詳細(xì)介紹了python實(shí)現(xiàn)Pyecharts實(shí)現(xiàn)動(dòng)態(tài)地圖,文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2020-03-03