Pandas數(shù)據(jù)分析之pandas數(shù)據(jù)透視表和交叉表
前言
pandas對數(shù)據(jù)框也可以像excel一樣進行數(shù)據(jù)透視表整合之類的操作。主要是針對分類數(shù)據(jù)進行操作,還可以計算數(shù)值型數(shù)據(jù),去滿足復(fù)雜的分類數(shù)據(jù)整理的邏輯。
首先還是導(dǎo)入包:
import numpy as np import pandas as pd
整理透視 pivot
首先介紹的是最簡單的整理透視函數(shù)pivot,其原理如圖:
pivot參數(shù):
- index:新 df 的索引列,用于分組,如果為None,則使用現(xiàn)有索引
- columns:新 df 的列,如果透視后有重復(fù)值會報錯
- values:用于填充 df 的列。 如果未指定,將使用所有剩余的列,并且結(jié)果將具有按層次結(jié)構(gòu)索引的列
用法如下,首先生成案例數(shù)據(jù)df
df = pd.DataFrame({'foo': ['one', 'one', 'one', 'two', 'two', 'two'], 'bar': ['A', 'B', 'C', 'A', 'B', 'C'], 'baz': [1, 2, 3, 4, 5, 6], 'zoo': ['x', 'y', 'z', 'q', 'w', 't']}) df
df.pivot(index='foo', columns='bar', values='baz')
可以看到是一一對應(yīng)。簡單來說就是把foo、bar兩個分類變量整到行列名稱上去了,baz作為值
# 多層索引,可以取其中一列 df.pivot(index='foo', columns='bar') #['baz']
# 指定值 df.pivot(index='foo', columns='bar', values=['baz', 'zoo'])
聚合透視 Pivot Table
上面的pivot只適用于一一對應(yīng)的情況,如果分類變量的組合一樣,但是取值不一樣就會報錯。此時應(yīng)該用Pivot Table,他默認計算相同情況的均值。
參數(shù):
- data: 要透視的 DataFrame 對象
- values: 要聚合的列或者多個列
- index: 在數(shù)據(jù)透視表索引上進行分組的鍵
- columns: 在數(shù)據(jù)透視表列上進行分組的鍵
- aggfunc: 用于聚合的函數(shù), 默認是 numpy.mean'''
df = pd.DataFrame({"A": ["a1", "a1", "a1", "a2", "a2","a2"], "B": ["b2", "b2", "b1", "b1", "b1","b1"], "C": ['c1','c1','c2','c2','c1','c1'], "D": [1, 2, 3, 4, 5, 6]}) df
#索引a,列b使用Pivot會報錯,因為他們之間的組合有重復(fù),要用Pivot Table,默認計算均值 pd.pivot_table(df,index='A',columns='B',values='D')
#驗證一下b1,a2這個均值5 df.loc[(df.A=='a2')&(df.B=='b1')].D.mean()
聚合透視高級操作
pd.pivot_table(df,index=['A','B'],#指定多個索引 columns=['C'], #指定列 values='D', #數(shù)據(jù)值列 aggfunc=np.sum, #聚合函數(shù) fill_value=0, #空值填充 margins=True #增加匯總列 )
#多個計算方法
pd.pivot_table(df,index=['A','B'],#指定多個索引 columns=['C'], #指定列 values='D', #數(shù)據(jù)值列 aggfunc=[np.sum,np.mean,np.std] )
交叉表crosstab()
交叉表是用于統(tǒng)計分組頻率的特殊透視表。簡單來說,就是將兩個或者多個列重中不重復(fù)的元素組成一個新的 DataFrame,新數(shù)據(jù)的行和列交叉的部分值為其組合在原數(shù)據(jù)中的數(shù)量
語法結(jié)構(gòu)如下:
pd.crosstab(index, columns, values=None, rownames=None,colnames=None, aggfunc=None, margins=False,
margins_name: str = 'All', dropna: bool = True,normalize=False) #→ 'DataFrame'
參數(shù)說明:
index:類數(shù)組,在行中按分組的值。
columns:類數(shù)組的值,用于在列中進行分組。
values:類數(shù)組的,可選的,要根據(jù)因素匯總的值數(shù)組。
aggfunc:函數(shù),可選,如果未傳遞任何值數(shù)組,則計算頻率表。
rownames:序列,默認為None,必須與傳遞的行數(shù)組數(shù)匹配。
colnames:序列,默認值為None,如果傳遞,則必須與傳遞的列數(shù)組數(shù)匹配。
margins:布爾值,默認為False,添加行/列邊距(小計)
normalize:布爾值,{'all','index','columns'}或{0,1},默認為False。 通過將所有值除以值的總和進行歸一化。'
生成案例數(shù)據(jù):
df = pd.DataFrame({"A": ["a1", "a1", "a1", "a2", "a2","a2"], "B": ["b2", "b2", "b1", "b1", "b1","b1"], "C": ['c1','c1','c2','c2','c1','c1'], "D": [1, 2, 3, 4, 5, 6]}) df
pd.crosstab(df['A'],df['B']) #都是分類數(shù)據(jù),計算頻率
pd.crosstab(df['A'],df['C']) #都是分類數(shù)據(jù)
#對交叉結(jié)果進行歸一化: pd.crosstab(df['A'], df['B'], normalize=True)
#對每列進行歸一化: pd.crosstab(df['A'], df['B'], normalize='columns')
#聚合,指定列做為值,并將這些值按一定算法進行聚合: pd.crosstab(df['A'], df['C'], values=df['D'], aggfunc=np.sum) #分類和數(shù)值
#邊距匯總,在最右邊增加一個匯總列: pd.crosstab(df['A'], df['B'],values=df['D'],aggfunc=np.sum, normalize=True,margins=True)
數(shù)據(jù)融合melt()
#df.melt() 是 df.pivot() 逆轉(zhuǎn)操作函數(shù)。簡單說就是將指定的列放到鋪開放到行上名為variable(可指定)列,值在value(可指定)列
語法結(jié)構(gòu):
具體語法結(jié)構(gòu)如下:
pd.melt(frame: pandas.core.frame.DataFrame,id_vars=None, value_vars=None, ? ? ? ? var_name='variable', value_name='value',col_level=None)
其中:
- id_varstuple:list或ndarray(可選),用作標識變量的列。
- value_varstuple:列表或ndarray,可選,要取消透視的列。 如果未指定,則使用未設(shè)置為id_vars的所有列。
- var_namescalar:用于“變量”列的名稱。 如果為None,則使用frame.columns.name或“variable”。
- value_namescalar:默認為“ value”,用于“ value”列的名稱。
- col_levelint或str:可選,如果列是MultiIndex,則使用此級別來融化。
生成案例數(shù)據(jù):
df=pd.DataFrame({'A':['a1','a2','a3','a4','a5'], 'B':['b1','b2','b3','b4','b5'], 'C':[1,2,3,4,5]}) df
pd.melt(df)
#指定標識和值, pd.melt(df,id_vars=['A']) #只對BC展開
pd.melt(df,value_vars=['B','C']) #保留BC,并展開
#同時指定,并命名 pd.melt(df,id_vars=['A'],value_vars=['B'],var_name='B_label',value_name='B_value')
數(shù)據(jù)堆疊 stack
#stack就是把列變量堆到行上,unstack就是行變到列上
生成案例數(shù)據(jù) :
#堆疊 stack 單層索引: df = pd.DataFrame({'A':['a1','a1','a2','a2'], 'B':['b1','b2','b1','b2'], 'C':[1,2,3,4], 'D':[5,6,7,8], 'E':[5,6,7,8]}) df.set_index(['A','B'],inplace=True) df
stack 堆疊
df.stack()
unstack 解堆
df.stack().unstack()
df.stack().unstack().unstack()
df.stack().unstack().unstack().unstack()
可以看到,解堆就是不停地把列變量弄到行上去作為索引。
到此這篇關(guān)于Pandas數(shù)據(jù)分析之pandas數(shù)據(jù)透視表和交叉表的文章就介紹到這了,更多相關(guān)pandas數(shù)據(jù)透視表內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Python虛擬環(huán)境的創(chuàng)建和使用詳解
這篇文章主要給大家介紹了關(guān)于Python虛擬環(huán)境的創(chuàng)建和使用的相關(guān)資料,文中通過圖文介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-09-09如何使用Django Admin管理后臺導(dǎo)入CSV
這篇文章主要介紹了如何使用Django Admin管理后臺導(dǎo)入CSV,幫助大家更好的理解和使用django框架,感興趣的朋友可以了解下2020-11-11