欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

解決pytorch load huge dataset(大數(shù)據(jù)加載)

 更新時間:2021年05月31日 09:31:30   作者:huangneng0219  
這篇文章主要介紹了解決pytorch load huge dataset(大數(shù)據(jù)加載)的問題,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教

問題

最近用pytorch做實驗時,遇到加載大量數(shù)據(jù)的問題。實驗數(shù)據(jù)大小在400Gb,而本身機(jī)器的memory只有256Gb,顯然無法將數(shù)據(jù)一次全部load到memory。

解決方法

首先自定義一個MyDataset繼承torch.utils.data.Dataset,然后將MyDataset的對象feed in torch.utils.data.DataLoader()即可。

MyDataset在__init__中聲明一個文件對象,然后在__getitem__中緩慢讀取數(shù)據(jù),這樣就不會一次把所有數(shù)據(jù)加載到內(nèi)存中了。訓(xùn)練數(shù)據(jù)存放在train.txt中,每一行是一條數(shù)據(jù)記錄。

import torch.utils.data as Data
from tqdm import tqdm
class MyDataset(Data.Dataset):
	def __init__(self,filepath):
		number = 0
		with open(filepath,"r") as f:
			# 獲得訓(xùn)練數(shù)據(jù)的總行數(shù)
			for _ in tqdm(f,desc="load training dataset"):
				number+=1
		self.number = number
		self.fopen = open(filepath,'r')
	def __len__(self):
		return self.number
	def __getitem__(self,index):
		line = self.fopen.__next__()
		# 自定義transform()對訓(xùn)練數(shù)據(jù)進(jìn)行預(yù)處理
		data = transform(line)
		return data

train_dataset = MyDataset(filepath = "train.txt")
training_data = Data.DataLoader(dataset=train_dataset, batch_size=32,num_workers=1)

注意

1、num_workers只能設(shè)置為1。因為MyDataset初始化時只有一個文件對象,在dataloader時num_workers=1只用一個線程去操作文件對象讀取數(shù)據(jù)。如果num_workers>1, 會出錯,多個線程同時操作同一個文件對象,得到的數(shù)據(jù)并不是你想要的。

2、每一個epoch結(jié)束以后,需要重新聲明train_dataset和training_data。因為一個epoch結(jié)束以后,文件對象已經(jīng)指向文件末尾,下一個epoch取數(shù)據(jù)時,什么也得不到。

3、因為這里__getitem__()只是順序的從文件中取出一行,而與index無關(guān),那么在DataLoader時,即使參數(shù)shuffle指定為True,得到的數(shù)據(jù)依然是順序的,即該方法無法shuffle數(shù)據(jù)。

補(bǔ)充:Pytorch加載自己的數(shù)據(jù)集(使用DataLoader讀取Dataset)

1. 我們經(jīng)??梢钥吹絇ytorch加載數(shù)據(jù)集會用到官方整理好的數(shù)據(jù)集

很多時候我們需要加載自己的數(shù)據(jù)集,這時候我們需要使用Dataset和DataLoader

Dataset:是被封裝進(jìn)DataLoader里,實現(xiàn)該方法封裝自己的數(shù)據(jù)和標(biāo)簽。

DataLoader:被封裝入DataLoaderIter里,實現(xiàn)該方法達(dá)到數(shù)據(jù)的劃分。

2.Dataset

閱讀源碼后,我們可以指導(dǎo),繼承該方法必須實現(xiàn)兩個方法:

_getitem_()

_len_()

因此,在實現(xiàn)過程中我們測試如下:

import torch
import numpy as np

# 定義GetLoader類,繼承Dataset方法,并重寫__getitem__()和__len__()方法
class GetLoader(torch.utils.data.Dataset):
	# 初始化函數(shù),得到數(shù)據(jù)
    def __init__(self, data_root, data_label):
        self.data = data_root
        self.label = data_label
    # index是根據(jù)batchsize劃分?jǐn)?shù)據(jù)后得到的索引,最后將data和對應(yīng)的labels進(jìn)行一起返回
    def __getitem__(self, index):
        data = self.data[index]
        labels = self.label[index]
        return data, labels
    # 該函數(shù)返回數(shù)據(jù)大小長度,目的是DataLoader方便劃分,如果不知道大小,DataLoader會一臉懵逼
    def __len__(self):
        return len(self.data)

# 隨機(jī)生成數(shù)據(jù),大小為10 * 20列
source_data = np.random.rand(10, 20)
# 隨機(jī)生成標(biāo)簽,大小為10 * 1列
source_label = np.random.randint(0,2,(10, 1))
# 通過GetLoader將數(shù)據(jù)進(jìn)行加載,返回Dataset對象,包含data和labels
torch_data = GetLoader(source_data, source_label)

3.DataLoader

提供對Dataset的操作,操作如下:

torch.utils.data.DataLoader(dataset,batch_size,shuffle,drop_last,num_workers)

參數(shù)含義如下:

dataset: 加載torch.utils.data.Dataset對象數(shù)據(jù)

batch_size: 每個batch的大小

shuffle:是否對數(shù)據(jù)進(jìn)行打亂

drop_last:是否對無法整除的最后一個datasize進(jìn)行丟棄

num_workers:表示加載的時候子進(jìn)程數(shù)

因此,在實現(xiàn)過程中我們測試如下(緊跟上述用例):

from torch.utils.data import DataLoader

# 讀取數(shù)據(jù)
datas = DataLoader(torch_data, batch_size=6, shuffle=True, drop_last=False, num_workers=2)

此時,我們的數(shù)據(jù)已經(jīng)加載完畢了,只需要在訓(xùn)練過程中使用即可。

4.查看數(shù)據(jù)

我們可以通過迭代器(enumerate)進(jìn)行輸出數(shù)據(jù),測試如下:

for i, data in enumerate(datas):
 # i表示第幾個batch, data表示該batch對應(yīng)的數(shù)據(jù),包含data和對應(yīng)的labels
    print("第 {} 個Batch \n{}".format(i, data))

輸出結(jié)果如下圖:

結(jié)果說明:由于數(shù)據(jù)的是10個,batchsize大小為6,且drop_last=False,因此第一個大小為6,第二個為4。每一個batch中包含data和對應(yīng)的labels。

當(dāng)我們想取出data和對應(yīng)的labels時候,只需要用下表就可以啦,測試如下:

# 表示輸出數(shù)據(jù)
print(data[0])
# 表示輸出標(biāo)簽
print(data[1])

結(jié)果如圖:

在這里插入圖片描述

以上為個人經(jīng)驗,希望能給大家一個參考,也希望大家多多支持腳本之家。

相關(guān)文章

  • python對gif圖壓縮的完美解決方案

    python對gif圖壓縮的完美解決方案

    上圖圖片的時候由于圖片太大,導(dǎo)致上次不成功,因此需要對文件進(jìn)行統(tǒng)一壓縮,這篇文章主要給大家介紹了關(guān)于python對gif圖壓縮的完美解決方案,需要的朋友可以參考下
    2021-11-11
  • python 自動提交和抓取網(wǎng)頁

    python 自動提交和抓取網(wǎng)頁

    最近在研究怎么樣做個自動發(fā)帖器,要完成這個工具難度蠻大的,驗證碼就是一個大問題(還沒有想到解決辦法哦,不管了),先要解決的是如何抓取,分析和提交頁面的問題。
    2009-07-07
  • python中前綴運(yùn)算符 *和 **的用法示例詳解

    python中前綴運(yùn)算符 *和 **的用法示例詳解

    這篇文章主要介紹了python中前綴運(yùn)算符 *和 **的用法,本文通過實例代碼給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友參考下吧
    2020-05-05
  • python自動化神器pyautogui使用步驟

    python自動化神器pyautogui使用步驟

    這篇文章主要給大家介紹了關(guān)于python自動化神器pyautogui使用步驟的相關(guān)資料,在Python當(dāng)中不僅代碼簡單,而且有著非常豐富的模塊,pyautogui就可以稱之為自動化操作的"神器",需要的朋友可以參考下
    2023-07-07
  • PyQt5 文本輸入框自動補(bǔ)全QLineEdit的實現(xiàn)示例

    PyQt5 文本輸入框自動補(bǔ)全QLineEdit的實現(xiàn)示例

    這篇文章主要介紹了PyQt5 文本輸入框自動補(bǔ)全QLineEdit的實現(xiàn)示例,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2020-05-05
  • python控制臺英漢漢英電子詞典

    python控制臺英漢漢英電子詞典

    這篇文章主要為大家詳細(xì)介紹了python控制臺英漢漢英電子詞典,文中示例代碼介紹的非常詳細(xì),具有一定的參考價值,感興趣的小伙伴們可以參考一下
    2014-06-06
  • python實現(xiàn)媒體播放器功能

    python實現(xiàn)媒體播放器功能

    這篇文章主要為大家詳細(xì)介紹了python實現(xiàn)媒體播放器功能,文中示例代碼介紹的非常詳細(xì),具有一定的參考價值,感興趣的小伙伴們可以參考一下
    2018-02-02
  • vscode中配置jupyter的詳細(xì)步驟(徹底解決Failed?to?start?the?Kernel問題)

    vscode中配置jupyter的詳細(xì)步驟(徹底解決Failed?to?start?the?Kernel問題)

    自從vscode出了支持jupyter?notebook的功能之后,我就再也沒有傻傻的用瀏覽器開過jupyter(問就是vscode好看),下面這篇文章主要給大家介紹了關(guān)于vscode中配置jupyter(徹底解決Failed?to?start?the?Kernel問題)的相關(guān)資料,需要的朋友可以參考下
    2022-12-12
  • Python截圖的五個方法實例總結(jié)

    Python截圖的五個方法實例總結(jié)

    學(xué)習(xí)一門語言最好的方法便是實踐,想要拿Python寫一個截圖工具,下面這篇文章主要給大家介紹了關(guān)于Python截圖的五個方法,文中通過圖文介紹的非常詳細(xì),需要的朋友可以參考下
    2022-12-12
  • Python利用lxml模塊爬取豆瓣讀書排行榜的方法與分析

    Python利用lxml模塊爬取豆瓣讀書排行榜的方法與分析

    這篇文章主要給大家介紹了關(guān)于Python爬蟲利用lxml模塊爬取豆瓣讀書排行榜的相關(guān)資料,文中通過示例代碼介紹的非常詳細(xì),對大家學(xué)習(xí)或者使用Python具有一定的參考學(xué)習(xí)價值,需要的朋友們下面來一起學(xué)習(xí)學(xué)習(xí)吧
    2019-04-04

最新評論