pandas刪除部分?jǐn)?shù)據(jù)后重新生成索引的實(shí)現(xiàn)
pandas刪除部分?jǐn)?shù)據(jù)后重新索引
在使用pandas時(shí),由于隔行讀取刪除了部分?jǐn)?shù)據(jù),導(dǎo)致刪除數(shù)據(jù)后的索引不連續(xù):
原數(shù)據(jù)
刪除部分?jǐn)?shù)據(jù)后
在綁定pyqt的tableview時(shí)需進(jìn)行格式化,結(jié)果出現(xiàn)報(bào)錯(cuò):
主要原因是索引值不連續(xù),所以無(wú)法格式化,需對(duì)刪除數(shù)據(jù)后的數(shù)據(jù)集進(jìn)行重新索引,在格式化數(shù)據(jù)集之前加一句代碼:
new_biao = biao.reset_index(drop=True)
順利通過了編碼并顯示到tableview,問題解決。
附件:網(wǎng)上查到的格式化用的編碼
class PandasModel(QtCore.QAbstractTableModel): """ Class to populate a table view with a pandas dataframe """ def __init__(self, data, parent=None): QtCore.QAbstractTableModel.__init__(self, parent) self._data = data def rowCount(self, parent=None): return len(self._data.values) def columnCount(self, parent=None): return self._data.columns.size def data(self, index, role=QtCore.Qt.DisplayRole): if index.isValid(): if role == QtCore.Qt.DisplayRole: return str(self._data.values[index.row()][index.column()]) return None def headerData(self, col, orientation, role): if orientation == QtCore.Qt.Horizontal and role == QtCore.Qt.DisplayRole: return self._data.columns[col] return None
使用:
model = PandasModel(your_pandas_data_frame) your_tableview.setModel(model)
pandas常用的index索引設(shè)置
1.讀取時(shí)指定索引列
很多情況下,我們的數(shù)據(jù)源是 CSV 文件。假設(shè)有一個(gè)名為的文件data.csv,包含以下數(shù)據(jù)。
date,temperature,humidity 07/01/21,95,50 07/02/21,94,55 07/03/21,94,56
默認(rèn)情況下,pandas將會(huì)創(chuàng)建一個(gè)從0開始的索引行,如下:
>>> pd.read_csv("data.csv", parse_dates=["date"]) date temperature humidity 0 2021-07-01 95 50 1 2021-07-02 94 55 2 2021-07-03 94 56
但是,我們可以在導(dǎo)入過程中通過將index_col參數(shù)設(shè)置為某一列可以直接指定索引列。
>>> pd.read_csv("data.csv", parse_dates=["date"], index_col="date") temperature humidity date 2021-07-01 95 50 2021-07-02 94 55 2021-07-03 94 56
2. 使用現(xiàn)有的 DataFrame 設(shè)置索引
當(dāng)然,如果已經(jīng)讀取數(shù)據(jù)或做完一些數(shù)據(jù)處理步驟后,我們可以通過set_index手動(dòng)設(shè)置索引。
>>> df = pd.read_csv("data.csv", parse_dates=["date"]) >>> df.set_index("date") temperature humidity date 2021-07-01 95 50 2021-07-02 94 55 2021-07-03 94 56
這里有兩點(diǎn)需要注意下。
1.set_index方法默認(rèn)將創(chuàng)建一個(gè)新的 DataFrame。如果要就地更改df的索引,需要設(shè)置inplace=True。
df.set_index(“date”, inplace=True)
2.如果要保留將要被設(shè)置為索引的列,可以設(shè)置drop=False。
df.set_index(“date”, drop=False)
3. 一些操作后重置索引
在處理 DataFrame 時(shí),某些操作(例如刪除行、索引選擇等)將會(huì)生成原始索引的子集,這樣默認(rèn)的數(shù)字索引排序就亂了。如要重新生成連續(xù)索引,可以使用reset_index方法。
>>> df0 = pd.DataFrame(np.random.rand(5, 3), columns=list("ABC")) >>> df0 A B C 0 0.548012 0.288583 0.734276 1 0.342895 0.207917 0.995485 2 0.378794 0.160913 0.971951 3 0.039738 0.008414 0.226510 4 0.581093 0.750331 0.133022 >>> df1 = df0[df0.index % 2 == 0] >>> df1 A B C 0 0.548012 0.288583 0.734276 2 0.378794 0.160913 0.971951 4 0.581093 0.750331 0.133022 >>> df1.reset_index(drop=True) A B C 0 0.548012 0.288583 0.734276 1 0.378794 0.160913 0.971951 2 0.581093 0.750331 0.133022
通常,我們是不需要保留舊索引的,因此可將drop參數(shù)設(shè)置為True。同樣,如果要就地重置索引,可設(shè)置inplace參數(shù)為True,否則將創(chuàng)建一個(gè)新的 DataFrame。
4. 將索引從 groupby 操作轉(zhuǎn)換為列
groupby分組方法是經(jīng)常用的。比如下面通過添加一個(gè)分組列team來(lái)進(jìn)行分組。
>>> df0["team"] = ["X", "X", "Y", "Y", "Y"] >>> df0 A B C team 0 0.548012 0.288583 0.734276 X 1 0.342895 0.207917 0.995485 X 2 0.378794 0.160913 0.971951 Y 3 0.039738 0.008414 0.226510 Y 4 0.581093 0.750331 0.133022 Y >>> df0.groupby("team").mean() A B C team X 0.445453 0.248250 0.864881 Y 0.333208 0.306553 0.443828
默認(rèn)情況下,分組會(huì)將分組列編程index索引。但是很多情況下,我們不希望分組列變成索引,因?yàn)榭赡苡行┯?jì)算或者判斷邏輯還是需要用到該列的。因此,我們需要設(shè)置一下讓分組列不成為索引,同時(shí)也能完成分組的功能。
有兩種方法可以完成所需的操作,第一種是用reset_index,第二種是在groupby方法里設(shè)置as_index=False。個(gè)人更喜歡第二種方法,它只涉及兩個(gè)步驟,更簡(jiǎn)潔。
>>> df0.groupby("team").mean().reset_index() team A B C 0 X 0.445453 0.248250 0.864881 1 Y 0.333208 0.306553 0.443828 >>> df0.groupby("team", as_index=False).mean() team A B C 0 X 0.445453 0.248250 0.864881 1 Y 0.333208 0.306553 0.443828
5.排序后重置索引
當(dāng)用sort_value排序方法時(shí)也會(huì)遇到這個(gè)問題,因?yàn)槟J(rèn)情況下,索引index跟著排序順序而變動(dòng),所以是亂雪。如果我們希望索引不跟著排序變動(dòng),同樣需要在sort_values方法中設(shè)置一下參數(shù)ignore_index即可。
>>> df0.sort_values("A") A B C team 3 0.039738 0.008414 0.226510 Y 1 0.342895 0.207917 0.995485 X 2 0.378794 0.160913 0.971951 Y 0 0.548012 0.288583 0.734276 X 4 0.581093 0.750331 0.133022 Y >>> df0.sort_values("A", ignore_index=True) A B C team 0 0.039738 0.008414 0.226510 Y 1 0.342895 0.207917 0.995485 X 2 0.378794 0.160913 0.971951 Y 3 0.548012 0.288583 0.734276 X 4 0.581093 0.750331 0.133022 Y
6.刪除重復(fù)后重置索引
刪除重復(fù)項(xiàng)和排序一樣,默認(rèn)執(zhí)行后也會(huì)打亂排序順序。同理,可以在drop_duplicates方法中設(shè)置ignore_index參數(shù)True即可。
>>> df0 A B C team 0 0.548012 0.288583 0.734276 X 1 0.342895 0.207917 0.995485 X 2 0.378794 0.160913 0.971951 Y 3 0.039738 0.008414 0.226510 Y 4 0.581093 0.750331 0.133022 Y >>> df0.drop_duplicates("team", ignore_index=True) A B C team 0 0.548012 0.288583 0.734276 X 1 0.378794 0.160913 0.971951 Y
7. 索引的直接賦值
當(dāng)我們有了一個(gè) DataFrame 時(shí),想要使用不同的數(shù)據(jù)源或單獨(dú)的操作來(lái)分配索引。在這種情況下,可以直接將索引分配給現(xiàn)有的 df.index。
>>> better_index = ["X1", "X2", "Y1", "Y2", "Y3"] >>> df0.index = better_index >>> df0 A B C team X1 0.548012 0.288583 0.734276 X X2 0.342895 0.207917 0.995485 X Y1 0.378794 0.160913 0.971951 Y Y2 0.039738 0.008414 0.226510 Y Y3 0.581093 0.750331 0.133022 Y
8.寫入CSV文件時(shí)忽略索引
數(shù)據(jù)導(dǎo)出到 CSV 文件時(shí),默認(rèn) DataFrame 具有從 0 開始的索引。如果我們不想在導(dǎo)出的 CSV 文件中包含它,可以在to_csv方法中設(shè)置index參數(shù)。
>>> df0.to_csv("exported_file.csv", index=False)
如下所示,導(dǎo)出的 CSV 文件中,索引列未包含在文件中。
其實(shí),很多方法中都有關(guān)于索引的設(shè)置,只不過大家一般比較關(guān)心數(shù)據(jù),而經(jīng)常忽略了索引,才導(dǎo)致繼續(xù)運(yùn)行時(shí)可能會(huì)報(bào)錯(cuò)。以上幾個(gè)高頻的操作都是有索引設(shè)置的,建議大家平時(shí)用的時(shí)候養(yǎng)成設(shè)置索引的習(xí)慣,這樣會(huì)節(jié)省不少時(shí)間。
以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
Python辦公自動(dòng)化之?dāng)?shù)據(jù)預(yù)處理和數(shù)據(jù)校驗(yàn)詳解
這篇文章主要為大家詳細(xì)介紹了Python辦公自動(dòng)化中數(shù)據(jù)預(yù)處理和數(shù)據(jù)校驗(yàn)的相關(guān)知識(shí),文中的示例代碼講解詳細(xì),感興趣的小伙伴可以參考一下2024-01-01Python數(shù)據(jù)分析的八種處理缺失值方法詳解
缺失值可能是數(shù)據(jù)科學(xué)中最不受歡迎的值,然而,它們總是在身邊。忽略缺失值也是不合理的,因此我們需要找到有效且適當(dāng)?shù)靥幚硭鼈兊姆椒?/div> 2021-11-11解決AttributeError:'NoneTypeobject'?has?no?attrib
這篇文章主要介紹了解決AttributeError:?‘NoneType‘?object?has?no?attribute?‘Window‘的問題(親測(cè)有效),本文給大家介紹的非常想詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2023-03-03Python HTML解析器BeautifulSoup用法實(shí)例詳解【爬蟲解析器】
這篇文章主要介紹了Python HTML解析器BeautifulSoup用法,結(jié)合實(shí)例形式詳細(xì)分析了第三方庫(kù)BeautifulSoup實(shí)現(xiàn)的爬蟲解析器功能具體操作技巧,需要的朋友可以參考下2019-04-04Python使用Selenium實(shí)現(xiàn)按文本查找元素
本文我們將通過示例為大家詳細(xì)介紹如何在Python中使用selenium通過文本查找元素的方法,文中的示例代碼講解詳細(xì),感興趣的小伙伴可以參考一下2023-11-11SELENIUM自動(dòng)化模擬鍵盤快捷鍵操作實(shí)現(xiàn)解析
這篇文章主要介紹了SELENIUM自動(dòng)化模擬鍵盤快捷鍵操作實(shí)現(xiàn)解析,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2019-10-10Linux環(huán)境下MySQL-python安裝過程分享
這篇文章主要介紹了Linux環(huán)境下MySQL-python安裝過程分享,本文使用的編譯方式安裝,需要的朋友可以參考下2015-02-02用Python3創(chuàng)建httpServer的簡(jiǎn)單方法
今天小編就為大家分享一篇用Python3創(chuàng)建httpServer的簡(jiǎn)單方法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來(lái)看看吧2018-06-06Python ORM框架SQLAlchemy學(xué)習(xí)筆記之映射類使用實(shí)例和Session會(huì)話介紹
這篇文章主要介紹了Python ORM框架SQLAlchemy學(xué)習(xí)筆記之映射類使用實(shí)例和Session會(huì)話介紹,需要的朋友可以參考下2014-06-06最新評(píng)論