Python Pandas批量讀取csv文件到dataframe的方法
PYTHON Pandas批量讀取csv文件到DATAFRAME
首先使用glob.glob獲得文件路徑。然后定義一個列表,讀取文件后再使用concat合并讀取到的數(shù)據(jù)。
#讀取數(shù)據(jù) import pandas as pd import numpy as np import glob,os path=r'e:\tj\month\fx1806' file=glob.glob(os.path.join(path, "zq*.xls")) print(file) dl= [] for f in file: dl.append(pd.read_excel(f,header=[0,1],index_col=None)) df=pd.concat(dl)
下面看下Python使用pandas處理CSV文件的方法
Python中有許多方便的庫可以用來進行數(shù)據(jù)處理,尤其是Numpy和Pandas,再搭配matplot畫圖專用模塊,功能十分強大。
CSV(Comma-Separated Values)格式的文件是指以純文本形式存儲的表格數(shù)據(jù),這意味著不能簡單的使用Excel表格工具進行處理,而且Excel表格處理的數(shù)據(jù)量十分有限,而使用Pandas來處理數(shù)據(jù)量巨大的CSV文件就容易的多了。
我用到的是自己用其他硬件工具抓取得數(shù)據(jù),硬件環(huán)境是在Linux平臺上搭建的,當時數(shù)據(jù)是在運行腳本后直接輸出在terminal里的,數(shù)據(jù)量十分龐大,為了保存獲得的數(shù)據(jù),在Linux下使用了數(shù)據(jù)流重定向,把數(shù)據(jù)全部保存到了文本文件中,形成了一個本地csv文件。
Pandas讀取本地CSV文件并設置Dataframe(數(shù)據(jù)格式)
import pandas as pd import numpy as np df=pd.read_csv('filename',header=None,sep=' ') #filename可以直接從盤符開始,標明每一級的文件夾直到csv文件,header=None表示頭部為空,sep=' '表示數(shù)據(jù)間使用空格作為分隔符,如果分隔符是逗號,只需換成 ‘,'即可。 print df.head() print df.tail() #作為示例,輸出CSV文件的前5行和最后5行,這是pandas默認的輸出5行,可以根據(jù)需要自己設定輸出幾行的值
圖片中顯示了我本地數(shù)據(jù)的前5行與最后5行,最前面一列沒有標號的是行號,數(shù)據(jù)一共有13列,標號從0到12,一行顯示不完全,在第9列以后換了行,并且用反斜杠“\”標注了出來。
2017年4月28日更新
使用pandas直接讀取本地的csv文件后,csv文件的列索引默認為從0開始的數(shù)字,重定義列索引的語句如下:
import pandas as pd import numpy as np df=pd.read_csv('filename',header=None,sep=' ',names=["week",'month','date','time','year','name1','freq1','name2','freq2','name3','data1','name4','data2']) print df1234
此時打印出的文件信息如下,列索引已經(jīng)被重命名:
總結(jié)
以上所述是小編給大家介紹的Python Pandas批量讀取csv文件到dataframe的方法,希望對大家有所幫助,如果大家有任何疑問請給我留言,小編會及時回復大家的。在此也非常感謝大家對腳本之家網(wǎng)站的支持!
相關文章
python3中利用filter函數(shù)輸出小于某個數(shù)的所有回文數(shù)實例
今天小編就為大家分享一篇 python3中利用filter函數(shù)輸出小于某個數(shù)的所有回文數(shù)實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-11-11python服務器與android客戶端socket通信實例
這篇文章主要介紹了python服務器與android客戶端socket通信的實現(xiàn)方法,實例形式詳細講述了Python的服務器端實現(xiàn)原理與方法,以及對應的Android客戶端實現(xiàn)方法,需要的朋友可以參考下2014-11-11Python基于numpy靈活定義神經(jīng)網(wǎng)絡結(jié)構(gòu)的方法
這篇文章主要介紹了Python基于numpy靈活定義神經(jīng)網(wǎng)絡結(jié)構(gòu)的方法,結(jié)合實例形式分析了神經(jīng)網(wǎng)絡結(jié)構(gòu)的原理及Python具體實現(xiàn)方法,涉及Python使用numpy擴展進行數(shù)學運算的相關操作技巧,需要的朋友可以參考下2017-08-08Python爬取商家聯(lián)系電話以及各種數(shù)據(jù)的方法
今天小編就為大家分享一篇Python爬取商家聯(lián)系電話以及各種數(shù)據(jù)的方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-11-11Python3網(wǎng)絡爬蟲之使用User Agent和代理IP隱藏身份
這篇文章主要介紹了Python3網(wǎng)絡爬蟲之使用User Agent和代理IP隱藏身份,小編覺得挺不錯的,現(xiàn)在分享給大家,也給大家做個參考。一起跟隨小編過來看看吧2017-11-11Python利用smtplib實現(xiàn)郵件發(fā)送
在當今數(shù)字時代,電子郵件已成為我們生活和工作中不可或缺的一部分,本篇文章將為你講解如何在Python發(fā)送郵件,并為你提供實現(xiàn)的多種方式,希望對大家有所幫助2023-06-06