Python讀csv文件去掉一列后再寫入新的文件實(shí)例
用了兩種方式解決該問題,都是網(wǎng)上現(xiàn)有的解決方案。
場景說明:
有一個(gè)數(shù)據(jù)文件,以文本方式保存,現(xiàn)在有三列user_id,plan_id,mobile_id。目標(biāo)是得到新文件只有mobile_id,plan_id。
解決方案
方案一:用python的打開文件寫文件的方式直接擼一遍數(shù)據(jù),for循環(huán)內(nèi)處理數(shù)據(jù)并寫入到新文件。
代碼如下:
def readwrite1( input_file,output_file): f = open(input_file, 'r') out = open(output_file,'w') print (f) for line in f.readlines(): a = line.split(",") x=a[0] + "," + a[1]+"\n" out.writelines(x) f.close() out.close()
方案二:用 pandas 讀數(shù)據(jù)到 DataFrame 再做數(shù)據(jù)分割,直接用 DataFrame 的寫入功能寫到新文件
代碼如下:
def readwrite2(input_file,output_file): date_1=pd.read_csv(input_file,header=0,sep=',') date_1[['mobile', 'plan_id']].to_csv(output_file, sep=',', header=True,index=False)
從代碼上看,pandas邏輯更清晰。
下面看下執(zhí)行的效率吧!
def getRunTimes( fun ,input_file,output_file): begin_time=int(round(time.time() * 1000)) fun(input_file,output_file) end_time=int(round(time.time() * 1000)) print("讀寫運(yùn)行時(shí)間:",(end_time-begin_time),"ms") getRunTimes(readwrite1,input_file,output_file) #直接擼數(shù)據(jù) getRunTimes(readwrite2,input_file,output_file1) #使用dataframe讀寫數(shù)據(jù)
讀寫運(yùn)行時(shí)間: 976 ms
讀寫運(yùn)行時(shí)間: 777 ms
input_file 大概有27萬的數(shù)據(jù),dataframe的效率比for循環(huán)效率還是要快一點(diǎn)的,如果數(shù)據(jù)量更大些,效果是否更明顯呢?
下面試下增加input_file記錄的數(shù)量試試,有如下結(jié)果
input_file | readwrite1 | readwrite2 |
27W | 976 | 777 |
55W | 1989 | 1509 |
110W | 4312 | 3158 |
從上面測試結(jié)果來看,dataframe的效率提高大約30%左右。
以上這篇Python讀csv文件去掉一列后再寫入新的文件實(shí)例就是小編分享給大家的全部內(nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
Python自動(dòng)重新加載模塊詳解(autoreload module)
這篇文章主要介紹了Python自動(dòng)重新加載模塊詳解(autoreload module),具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2020-04-04Python面向?qū)ο蟪绦蛟O(shè)計(jì)之靜態(tài)方法、類方法、屬性方法原理與用法分析
這篇文章主要介紹了Python面向?qū)ο蟪绦蛟O(shè)計(jì)之靜態(tài)方法、類方法、屬性方法,結(jié)合實(shí)例形式分析了Python靜態(tài)方法、類方法、屬性方法相關(guān)概念、原理、用法及相關(guān)操作注意事項(xiàng),需要的朋友可以參考下2020-03-03Python生成器實(shí)現(xiàn)簡單"生產(chǎn)者消費(fèi)者"模型代碼實(shí)例
這篇文章主要介紹了Python生成器實(shí)現(xiàn)簡單"生產(chǎn)者消費(fèi)者"模型代碼實(shí)例,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-03-03Python3如何根據(jù)函數(shù)名動(dòng)態(tài)調(diào)用函數(shù)
這篇文章主要介紹了Python3如何根據(jù)函數(shù)名動(dòng)態(tài)調(diào)用函數(shù)問題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-11-11python_tkinter彈出對(duì)話框創(chuàng)建2
這篇文章主要介紹了python_tkinter彈出對(duì)話框創(chuàng)建,上以篇文章我們簡單的對(duì)對(duì)話框創(chuàng)建做了簡單介紹,本文將繼續(xù)更多相關(guān)內(nèi)容,需要的小伙伴可以參考一下2022-03-03批標(biāo)準(zhǔn)化層 tf.keras.layers.Batchnormalization()解析
這篇文章主要介紹了批標(biāo)準(zhǔn)化層 tf.keras.layers.Batchnormalization(),具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-02-02mac 安裝python網(wǎng)絡(luò)請(qǐng)求包requests方法
今天小編就為大家分享一篇mac 安裝python網(wǎng)絡(luò)請(qǐng)求包requests方法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2018-06-06Python利用Beautiful Soup模塊搜索內(nèi)容詳解
這篇文章主要給大家介紹了python中 Beautiful Soup 模塊的搜索方法函數(shù)。 方法不同類型的過濾參數(shù)能夠進(jìn)行不同的過濾,得到想要的結(jié)果。文中介紹的非常詳細(xì),對(duì)大家具有一定的參考價(jià)值,需要的朋友們下面來一起看看吧。2017-03-03