欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

pytorch中的dataset用法詳解

 更新時間:2022年01月26日 15:49:34   作者:咕嘟咕嘟_?  
這篇文章主要介紹了pytorch的dataset用法詳解,當(dāng)我們繼承了一個?Dataset類之后,我們需要重寫?len?方法,該方法提供了dataset的大??;?getitem?方法,?該方法支持從?0?到?len(self)的索引,下面來看看附有代碼的講解吧,希望對你的學(xué)習(xí)或者工作有所幫助

1.torch.utils.data 里面的dataset使用方法

當(dāng)我們繼承了一個 Dataset類之后,我們需要重寫 len 方法,該方法提供了dataset的大??; getitem 方法, 該方法支持從 0 到 len(self)的索引

from torch.utils.data import Dataset, DataLoader
import torch

class MyDataset(Dataset):
? ? """
? ? ? ? 下載數(shù)據(jù)、初始化數(shù)據(jù),都可以在這里完成
? ? """

? ? def __init__(self):
? ? ? ? self.x = torch.linspace(11,20,10)
? ? ? ? self.y = torch.linspace(1,10,10)
? ? ? ? self.len = len(self.x)

? ? def __getitem__(self, index):
? ? ? ? return self.x[index], self.y[index]

? ? def __len__(self):
? ? ? ? return self.len


# 實例化這個類,然后我們就得到了Dataset類型的數(shù)據(jù),記下來就將這個類傳給DataLoader,就可以了。
mydataset = MyDataset()#[return:
# ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?# (tensor(x1),tensor(y1));
# ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?# (tensor(x2),tensor(y2));
# ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?# ......

train_loader2 = DataLoader(dataset=mydataset,
? ? ? ? ? ? ? ? ? ? ? ? ? ?batch_size=5,
? ? ? ? ? ? ? ? ? ? ? ? ? ?shuffle=False)

for epoch in range(3): ?# 訓(xùn)練所有!整套!數(shù)據(jù) 3 次
? ? for step,(batch_x,batch_y) in enumerate(train_loader2): ?# 每一步 loader 釋放一小批數(shù)據(jù)用來學(xué)習(xí)
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? #return:
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? #(tensor(x1,x2,x3,x4,x5),tensor(y1,y2,y3,y4,y5))
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? #(tensor(x6,x7,x8,x9,x10),tensor(y6,y7,y8,y9,y10))
? ? ? ? # 假設(shè)這里就是你訓(xùn)練的地方...

? ? ? ? # 打出來一些數(shù)據(jù)
? ? ? ? print('Epoch: ', epoch, '| Step:', step, '| batch x: ', batch_x.numpy(), '| batch y: ', batch_y.numpy())

2.torchvision.datasets的使用方法

torchvisiondatasets中所有封裝的數(shù)據(jù)集都是torch.utils.data.Dataset的子類,它們都實現(xiàn)了__getitem__和__len__方法。因此,它們都可以用torch.utils.data.DataLoader進行數(shù)據(jù)加載。

用法1:使用官方數(shù)據(jù)集

可選數(shù)據(jù)集參考:https://www.pianshen.com/article/9695297328/

代碼:

torchvision.datasets.CIFAR10("./dataset", train=False, transform=torchvision.transforms.ToTensor())

root (string): 表示數(shù)據(jù)集的根目錄,其中根目錄存在CIFAR10/processed/training.pt和CIFAR10/processed/test.pt的子目錄
train (bool, optional): 如果為True,則從training.pt創(chuàng)建數(shù)據(jù)集,否則從test.pt創(chuàng)建數(shù)據(jù)集
download (bool, optional): 如果為True,則從internet下載數(shù)據(jù)集并將其放入根目錄。如果數(shù)據(jù)集已下載,則不會再次下載
transform (callable, optional): 接收PIL圖片并返回轉(zhuǎn)換后版本圖片的轉(zhuǎn)換函數(shù)
target_transform (callable, optional): 接收PIL接收目標(biāo)并對其進行變換的轉(zhuǎn)換函數(shù)
import torchvision

# 準(zhǔn)備的測試數(shù)據(jù)集
from torch.utils.data import DataLoader
from torch.utils.tensorboard import SummaryWriter

test_data = torchvision.datasets.CIFAR10("./dataset", train=False, transform=torchvision.transforms.ToTensor())

test_loader = DataLoader(dataset=test_data, batch_size=64, shuffle=True, num_workers=0, drop_last=True)

# 測試數(shù)據(jù)集中第一張圖片及target
img, target = test_data[0]
print(img.shape)
print(target)

writer = SummaryWriter("dataloader")
for epoch in range(2):
? ? step = 0
? ? for data in test_loader:
? ? ? ? imgs, targets = data
? ? ? ? # print(imgs.shape)
? ? ? ? # print(targets)
? ? ? ? writer.add_images("Epoch: {}".format(epoch), imgs, step)
? ? ? ? step = step + 1

writer.close()

用法2:ImageFolder通用的自己數(shù)據(jù)集加載器

一個通用的數(shù)據(jù)加載器,數(shù)據(jù)集中的數(shù)據(jù)以以下方式組織

root/dog/xxx.png
root/dog/xxy.png
root/dog/xxz.png

root/cat/123.png
root/cat/nsdf3.png
root/cat/asd932_.png
torchvision.datasets.ImageFolder(root="root folder path", [transform, target_transform])

ImageFolder有以下成員變量:

  • self.classes - 用一個list保存 類名
  • self.class_to_idx - 類名對應(yīng)的 索引
  • self.imgs - 保存(img-path, class) tuple的list

該方法可以結(jié)合torch.utils.data.Subset使用 ,以根據(jù)示例索引將您的ImageFolder數(shù)據(jù)集分為訓(xùn)練和測試。

orig_set = torchvision.datasets.Imagefolder('dataset/') ?# your dataset
n = len(orig_set) ?# total number of examples
n_test = int(0.1 * n) ?# take ~10% for test
test_set = torch.utils.data.Subset(orig_set, range(n_test)) ?# take first 10%
train_set = torch.utils.data.Subset(orig_set, range(n_test, n)) ?# take the rest?

到此這篇關(guān)于pytorchdataset用法詳解的文章就介紹到這了,更多相關(guān)pytorch的dataset用法內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!

相關(guān)文章

  • 使用Puppeteer爬取微信文章的實現(xiàn)

    使用Puppeteer爬取微信文章的實現(xiàn)

    這篇文章主要介紹了使用Puppeteer爬取微信文章的實現(xiàn),文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2020-02-02
  • python基礎(chǔ)之匿名函數(shù)詳解

    python基礎(chǔ)之匿名函數(shù)詳解

    這篇文章主要介紹了python基礎(chǔ)之匿名函數(shù)詳解,文中有非常詳細(xì)的代碼示例,對正在學(xué)習(xí)python基礎(chǔ)的小伙伴們有很好的幫助,需要的朋友可以參考下
    2021-04-04
  • python刪除不需要的python文件方法

    python刪除不需要的python文件方法

    下面小編就為大家分享一篇python刪除不需要的python文件方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2018-04-04
  • python命令行模式的用法及流程

    python命令行模式的用法及流程

    在本篇文章里小編給大家整理的是一篇關(guān)于python命令行模式的用法及流程相關(guān)內(nèi)容,有興趣的朋友們可以跟著學(xué)習(xí)下。
    2021-09-09
  • Python match語句的具體使用

    Python match語句的具體使用

    match語句接受一個表達(dá)式,并將其值與作為一個或多個case塊給出的連續(xù)模式進行比較,本文主要介紹了Python match語句的具體使用,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2023-04-04
  • Python字典中的值為列表或字典的構(gòu)造實例

    Python字典中的值為列表或字典的構(gòu)造實例

    今天小編就為大家分享一篇Python字典中的值為列表或字典的構(gòu)造實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2019-12-12
  • Python3讀取zip文件信息的方法

    Python3讀取zip文件信息的方法

    這篇文章主要介紹了Python3讀取zip文件信息的方法,涉及Python3 使用zipfile模塊操作zip文件的相關(guān)技巧,需要的朋友可以參考下
    2015-05-05
  • 詳解python中的異常捕獲

    詳解python中的異常捕獲

    這篇文章主要介紹了python中的異常捕獲的相關(guān)資料,幫助大家更好的理解和使用python,感興趣的朋友可以了解下
    2020-12-12
  • Python3遍歷目錄樹實現(xiàn)方法

    Python3遍歷目錄樹實現(xiàn)方法

    這篇文章主要介紹了Python3遍歷目錄樹實現(xiàn)方法,涉及Python目錄樹的遍歷操作技巧,需要的朋友可以參考下
    2015-05-05
  • python OpenCV學(xué)習(xí)筆記

    python OpenCV學(xué)習(xí)筆記

    這篇文章主要介紹了python OpenCV的相關(guān)資料,幫助大家更好的理解和學(xué)習(xí)使用python的opencv,感興趣的朋友可以了解下
    2021-03-03

最新評論