欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

關(guān)于python 讀取csv最快的Datatable的用法,你都學(xué)會(huì)了嗎

 更新時(shí)間:2021年10月19日 11:03:37   作者:songroom  
大家都知道Datatable與眾不同就是快,還有一點(diǎn)大家需要注意使用Datatable庫(kù)需要python3.6及以上版本,接下來(lái)通過(guò)本文給大家介紹了python 讀取csv最快的Datatable的用法,需要的朋友可以參考下

2021年7月1日,官方正式發(fā)布了1.0Datatable版本。1.0版本支持windows和linux,以及Macos。 具體文檔可以見(jiàn):

https://datatable.readthedocs.io/en/latest/start/using-datatable.html

Datatable與眾不同就是快!

需要說(shuō)明的是,使用Datatable庫(kù)需要python3.6及以上版本。

import datatable as dt
import pandas as pd
import time
from datetime import date
from datatable import f,update

t0 = time.time()
t1 = time.time() 
file = r"C:\Users\songroom\Desktop\000001.csv"
my_table = dt.fread(file,sep=",",header=True)  ## datatable格式
## dt.fread(data, sep=",",header=False, columns=["A","B","C","D"]) 多種設(shè)置
t3 = time.time()
print(f"my_table    ->     data type    :{type(my_table)}")
print(f"my_table    ->     data name    : {my_table.names}")
print(f"my_table    ->    (nrows,ncols) : {my_table.shape}") # (nrows, ncols) 

my_table -> data type :<class ‘datatable.Frame'>
my_table -> data name : (‘date', ‘open', ‘close', ‘low', ‘high', ‘volume', ‘money', ‘factor', ‘high_limit', ‘low_limit', ‘a(chǎn)vg', ‘pre_close', ‘paused', ‘open_interest')
my_table -> (nrows,ncols) : (590880, 14)

print(f"my_table    ->    head(10)      : " )
print(my_table.head(10)) # 
print(f" datatable  read_csv cost  time : {t3-t0} s!")

在這里插入圖片描述

# ## 和pandas 相比

t4 = time.time() 
pandas_df = pd.read_csv(file) 
t5 = time.time() 
print(f" pandas read_csv cost    time     : {t5-t4} s! ")

datatable read_csv cost time : 0.059000492095947266 s!
pandas read_csv cost time : 1.7289988994598389 s!

把讀取的csv存成jay文件

把.jay文件讀成datatable

t6 = time.time() 
my_table.to_jay(r"C:\Users\songroom\Desktop\000001.jay")
t7 = time.time() 
print(f"datatable 把數(shù)據(jù)存放成jay cost time : {t7-t6} s!")
## 把.jay文件讀成datatable
t8 = time.process_time_ns() ## 增加精度
table_jay = dt.fread(r"C:\Users\songroom\Desktop\000001.jay")
t9 = time.process_time_ns()
print(f"把.jay文件 讀取到datatable cost time : {(t9-t8)/1000000000.0} s !")
print(f".jay文件讀取成table_jay 的數(shù)據(jù)格式    :{type(table_jay)}")

datatable 把數(shù)據(jù)存放成jay cost time : 0.494002103805542 s! 把.jay文件
讀取到datatable cost time : 0.0 s !
.jay文件讀取成table_jay 的數(shù)據(jù)格式 :<class ‘datatable.Frame'>

## 把datatable轉(zhuǎn)成pandas.dataframe
t10 = time.time() 
pandas_df = my_table.to_pandas()
t11 = time.time() 
print(f"pandas_df  type : {type(pandas_df)}  ")
print(f"datatable 轉(zhuǎn)成  pandas df cost time : {t11-t10} s!")
print(f"{pandas_df.head()}")

pandas_df type : <class ‘pandas.core.frame.DataFrame'> datatable 轉(zhuǎn)成
pandas df cost time : 0.1569967269897461 s!
在這里插入圖片描述

把dataframe轉(zhuǎn)成datatable

t12 = time.process_time()
my_table_from_df = dt.Frame(pandas_df)
t13 = time.process_time()
print(f"dataframe => datatable  cost time : {t13-t12} s!")
print(f"my_table_from_df type: {type(my_table_from_df)}   pandas_df type : {type(pandas_df)}")

dataframe => datatable cost time : 0.296875 s! my_table_from_df type:
<class ‘datatable.Frame'> pandas_df type : <class
‘pandas.core.frame.DataFrame'>

把datatable 轉(zhuǎn)成 csv保存,把datatalbe擴(kuò)展10倍,再輸出csv

t14 = time.time() 
big_table = dt.repeat(my_table, 10) ## 
t14_1 = time.time()
big_table.to_csv(r"C:\Users\songroom\Desktop\000001_big.csv") 
t15 = time.time() 
print(f"big_table  shape (nrows,ncols  ) : {big_table.shape}")
print(f"datatable 擴(kuò)展10倍        cost time :  {t14_1-t14}s!")
print(f"datatable 落地csv文件   cost time : {t15-t14_1} s!")

big_table shape (nrows,ncols ) : (5908800, 14)
datatable 擴(kuò)展10倍 cost time : 0.0s!
datatable 落地csv文件 cost time : 9.905611753463745 s!

與各種類型數(shù)據(jù)的轉(zhuǎn)換:

在這里插入圖片描述

datatable => arrow()

arr_from_table = my_table.to_arrow()
print(f"{type(arr_from_table)}")

<class ‘pyarrow.lib.Table'>

把dict =>datatable

dict_data = {"dates" : [date(2000, 1, 5), date(2010, 11, 23), date(2020, 2, 29), None],
          "integers" : range(1, 5),
          "floats" : [10.0, 11.5, 12.3, -13],
          "strings" : ['A', 'B', None, 'D']
          }
table_from_dict = dt.Frame(dict_data)
print(f" dict_data type :{type(dict_data)}   table_from_dict type : {type(table_from_dict)} ")

把datatable => dict

dict_from_datatable = my_table.to_dict()
print(f" dict_from_datatable  type :{type(dict_from_datatable)}   my_table type : {type(my_table)} ")

把datatable 取值和過(guò)濾

my_table_new  = my_table[:, "close"]

找到符合這兩個(gè)條件(且)的table,這兩個(gè)條件要括起來(lái)!

table_3800_and    = my_table[(f.close > 3800) & (f.pre_close < 3800),:] 

找到符合這兩個(gè)條件(or)的table,這兩個(gè)條件要括起來(lái)!

table_3800_or    = my_table[(f.close > 3800) | (f.pre_close < 3800),:] 
my_table[:, 'date']  ## 選擇date列
my_table['date']     ## 同上
my_table[:,["date","close"]] ## 選擇 date,close兩列
my_table[:,f.close]  ## 選擇close
my_table[[1, 2, 3], :] ## 選擇相應(yīng)的行
my_table[range(1, 3), :] ## 選擇相應(yīng)的行

把 datatable 轉(zhuǎn)成list

my_list = my_table_new.to_list()

兩個(gè)datatable的操作 合并

dt1 = dt.rbind(my_table, table_3800_or) ## 這兩個(gè)table合并,行上進(jìn)行合并;列上擴(kuò)展用rbind()
del dt1[:, ['date', 'close']] ## 刪除兩列
my_table['low_high'] = my_table[:, (f.low + f.high)/2.0] ## 增加一列,賦值方法
my_table[:, update(mean = (f.low+ f.high +f.close)/3.0)] ## 增加一列,update方法
my_table.names = {"low_high": "lowhigh", "mean": "mean_3"} ## 對(duì)兩列的字段進(jìn)行重命名

dict_from_datatable type :<class ‘dict'> my_table type : <class ‘datatable.Frame'>

在這里插入圖片描述

循環(huán),效率好象比較慢!后面還待觀察是否有優(yōu)化!

nrows,ncols = my_table.shape
tt0 = time.time()
for i in range(nrows):
    values = my_table[i,:]
tt1 = time.time()
print(f"my_table 循環(huán) cost time :{tt1-tt0} s")

my_table 循環(huán) cost time :9.566002130508423 s。效率看起來(lái)比較低。

到此這篇關(guān)于python 讀取csv最快的Datatable的用法的文章就介紹到這了,更多相關(guān)python 讀取csv內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!

相關(guān)文章

  • Python+Tkinter制作股票數(shù)據(jù)抓取小程序

    Python+Tkinter制作股票數(shù)據(jù)抓取小程序

    這篇文章主要為大家詳細(xì)介紹了如何實(shí)現(xiàn)一個(gè)Tkinter?GUI程序,完成無(wú)代碼股票抓?。∥闹械氖纠a講解詳細(xì),快跟小編一起動(dòng)手試一試吧
    2022-08-08
  • python 已知平行四邊形三個(gè)點(diǎn),求第四個(gè)點(diǎn)的案例

    python 已知平行四邊形三個(gè)點(diǎn),求第四個(gè)點(diǎn)的案例

    這篇文章主要介紹了python 已知平行四邊形三個(gè)點(diǎn),求第四個(gè)點(diǎn)的案例,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
    2020-04-04
  • 如何實(shí)現(xiàn)Django Rest framework版本控制

    如何實(shí)現(xiàn)Django Rest framework版本控制

    這篇文章主要介紹了如何實(shí)現(xiàn)Django Rest framework版本控制,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下
    2019-07-07
  • python3中bytes和string之間的互相轉(zhuǎn)換

    python3中bytes和string之間的互相轉(zhuǎn)換

    這篇文章主要介紹了python3中bytes和string之間的互相轉(zhuǎn)換,文中給出了詳細(xì)的介紹和示例代碼,相信對(duì)大家具有一定的參考價(jià)值,有需要的朋友們下面來(lái)一起學(xué)習(xí)學(xué)習(xí)吧。
    2017-02-02
  • Python實(shí)現(xiàn)快速保存微信公眾號(hào)文章中的圖片

    Python實(shí)現(xiàn)快速保存微信公眾號(hào)文章中的圖片

    這篇文章主要為大家詳細(xì)介紹了如何利用Python語(yǔ)言實(shí)現(xiàn)快速保存微信公眾號(hào)文章中的圖片,文中的示例代碼講解詳細(xì),感興趣的可以嘗試一下
    2022-06-06
  • python基礎(chǔ)教程之Filter使用方法

    python基礎(chǔ)教程之Filter使用方法

    這篇文章主要介紹了python基礎(chǔ)教程之Filter使用方法的相關(guān)資料,這里對(duì)Python Filter 進(jìn)行了簡(jiǎn)單實(shí)例詳解,需要的朋友可以參考下
    2017-01-01
  • python pytest進(jìn)階之xunit fixture詳解

    python pytest進(jìn)階之xunit fixture詳解

    這篇文章主要介紹了python pytest進(jìn)階之xunit fixture詳解,了解unittest的同學(xué)應(yīng)該知道我們?cè)诔跏蓟h(huán)境和銷毀工作時(shí),unittest使用的是setUp,tearDown方法,那么在pytest框架中同樣存在類似的方法,今天我們就來(lái)具體說(shuō)明,需要的朋友可以參考下
    2019-06-06
  • Python 異步協(xié)程函數(shù)原理及實(shí)例詳解

    Python 異步協(xié)程函數(shù)原理及實(shí)例詳解

    這篇文章主要介紹了Python 異步協(xié)程函數(shù)原理及實(shí)例詳解,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下
    2019-11-11
  • python正則表達(dá)式實(shí)現(xiàn)自動(dòng)化編程

    python正則表達(dá)式實(shí)現(xiàn)自動(dòng)化編程

    這篇文章主要介紹了python正則表達(dá)式實(shí)現(xiàn)自動(dòng)化編程,re模塊的compile()方法是構(gòu)成正則表達(dá)式的方法,向compile()傳入一個(gè)字符串表示正則表達(dá)式,該方法返回一個(gè)Regex模式的對(duì)象,需要的朋友可以參考下
    2023-01-01
  • 一文教你Python如何創(chuàng)建屬于自己的IP池

    一文教你Python如何創(chuàng)建屬于自己的IP池

    這篇文章主要為大家詳細(xì)介紹了python如何創(chuàng)建屬于自己的IP池,文中的示例代碼講解詳細(xì),對(duì)我們學(xué)習(xí)或工作有一定參考價(jià)值,需要的可以參考一下
    2022-04-04

最新評(píng)論