快捷導(dǎo)航

Tensorflow 訓(xùn)練自己的數(shù)據(jù)集將數(shù)據(jù)直接導(dǎo)入到內(nèi)存

更新時(shí)間：2018年06月19日 09:48:48 作者：ruyiweicas

這篇文章主要介紹了Tensorflow 訓(xùn)練自己的數(shù)據(jù)集將數(shù)據(jù)直接導(dǎo)入到內(nèi)存,小編覺(jué)得挺不錯(cuò)的，現(xiàn)在分享給大家，也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧

制作自己的訓(xùn)練集

下圖是我們數(shù)據(jù)的存放格式，在data目錄下有驗(yàn)證集與測(cè)試集分別對(duì)應(yīng)iris_test， iris_train

為了向偉大的MNIST致敬，我們采用的數(shù)據(jù)名稱格式和MNIST類似

classification_index.jpg

圖像的index都是5的整數(shù)倍是因?yàn)槲覀冞x擇測(cè)試集的原則是每5個(gè)樣本，選擇一個(gè)樣本作為測(cè)試集，其余的作為訓(xùn)練集和驗(yàn)證集

生成這樣數(shù)據(jù)的過(guò)程相對(duì)簡(jiǎn)單，如果有需要python代碼的，可以給我發(fā)郵件，或者在我的github下載

至此，我們的訓(xùn)練集，測(cè)試集，驗(yàn)證集就生成成功了，之所以我們的文件夾只有訓(xùn)練集和測(cè)試集是因?yàn)槲覀冊(cè)诤罄m(xù)的訓(xùn)練過(guò)程中，會(huì)在訓(xùn)練集中分出一部分作為驗(yàn)證集，所以兩者暫時(shí)合稱為訓(xùn)練集

將數(shù)據(jù)集寫入到Tensorflow中

1. 直接寫入到隊(duì)列中

import tensorflow as tf
import numpy as np
import os

train_dir = '/home/ruyiwei/data/iris_train/'#your data directory
def get_files(file_dir):
  '''
  Args:
    file_dir: file directory
  Returns:
    list of images and labels
  '''
  iris = []
  label_iris = []
  contact = []
  label_contact = []
  for file in os.listdir(file_dir):
    name = file.split('_')
    if name[0]=="iris":
      iris.append(file_dir + file)
      label_iris.append(0)
    else:
      contact.append(file_dir + file)
      label_contact.append(1)
  print('There are %d iris\nThere are %d contact' %(len(iris), len(contact)))

  image_list = np.hstack((iris, contact))
  label_list = np.hstack((label_iris, label_contact))

  temp = np.array([image_list, label_list])
  temp = temp.transpose()
  np.random.shuffle(temp)

  image_list = list(temp[:, 0])
  label_list = list(temp[:, 1])
  label_list = [int(i) for i in label_list]

  return image_list, label_list

為了大家更方便的理解和修改代碼，我們對(duì)代碼進(jìn)行講解如下

1-3行：導(dǎo)入需要的模塊
5行：定義訓(xùn)練集合的位置，這個(gè)需要根據(jù)自己的機(jī)器進(jìn)行修改
7行：定義函數(shù) get_files
18行： os.listdir(file_dir) 獲取指定目錄file_dir下的所有文件名詞，也就是我們的訓(xùn)練圖片名稱
18行：for file in os.listdir(file_dir): 遍歷所有的圖片
19行： name為一個(gè)數(shù)組，由于我們根據(jù)MINIST來(lái)定制的圖片名詞，所以file.split(‘_')會(huì)將圖像名稱分為兩部分，第一部分為classification，通過(guò)name[0]來(lái)獲得分類信息。
21行、24行：iris.append(file_dir + file)/contact.append(file_dir + file)將圖像的絕對(duì)路徑放入到iris/contact中
22行、25行：label_iris.append(0)/label_contact.append(1)給對(duì)應(yīng)的圖片貼標(biāo)簽
28-29行：將二分類的圖像與標(biāo)簽壓入到list中
31-33行：合并二分類圖像，然后打亂
38行：返回打亂后對(duì)應(yīng)的圖像與標(biāo)簽