快捷導(dǎo)航

使用python操作lmdb對數(shù)據(jù)讀取的實例

更新時間：2020年12月11日 09:10:19 作者：泥石流中的一股清流

這篇文章主要介紹了使用python操作lmdb對數(shù)據(jù)讀取的實例，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧

由于c++速度快，所以一般寫入數(shù)據(jù)我調(diào)用c++借口，而讀取數(shù)據(jù)使用c++也行，但有時候Python在某方面方便，所以通過使用python借口僅僅對lmdb文件讀取，處理數(shù)據(jù)是圖片

import lmdb
import numpy as np
import cv2
lmdb_file = "/home/rui/demo"
lmdb_env = lmdb.open(lmdb_file)
lmdb_txn = lmdb_env.begin()
lmdb_cursor = lmdb_txn.cursor()
for key, value in lmdb_cursor:
  img = cv2.imdecode(np.fromstring(value, np.uint8), 3);
  cv2.imshow("demo", img)
  cv2.waitKey(0)

補充知識：Python解析lmdb格式mnist數(shù)據(jù)集

背景

HDF5和LMDB都是Cafffe中常用的數(shù)據(jù)庫。相對來說，HDF5的讀寫格式簡單；LMDB采用內(nèi)存-映射文件（memory-mapped files），所以擁有非常好的I/O性能，而且對于大型數(shù)據(jù)庫來說，HDF5的文件常常整個寫入內(nèi)存。

所以HDF5的文件大小就受限于內(nèi)存大小，當然也可以通過文件分割來解決問題，但其I/O性能就不如LMDB的頁緩存（page cachiing）策略了。

MNIST手寫數(shù)字字符識別實驗在deep learning 中經(jīng)常用到，這里使用Python來獲取lmdb格式MNIST數(shù)據(jù)集中的圖片并顯示出來

Python讀取LMDB

首先確認你安裝了lmdb和Caffe的python包（Caffe中的pycaffe）。

pip install lmdb

LMDB采用鍵值對的存儲格式，key就是字符形式的ID，value是Caffe中Datum類的序列化形式。

# -*- coding:utf-8 -*-
import caffe
from caffe.proto import caffe_pb2
import lmdb
import cv2 as cv
env = lmdb.open("mnist_train_lmdb", readonly=True) # 打開數(shù)據(jù)文件
txn = env.begin() # 生成處理句柄
cur = txn.cursor() # 生成迭代器指針
datum = caffe_pb2.Datum() # caffe 定義的數(shù)據(jù)類型
for key, value in cur:
  print(type(key), key)
  datum.ParseFromString(value) # 反序列化成datum對象
  label = datum.label
  data = caffe.io.datum_to_array(datum)
  print data.shape
  print datum.channels
  image = data[0]
  # image = data.transpose(1, 2, 0)
  print(type(label))
  cv.imshow(str(label), image)
  cv.waitKey(0)
cv.destroyAllWindows()
env.close()

運行結(jié)果：

讀取LMDB數(shù)據(jù)庫中的Datum數(shù)據(jù)，這里再稍微介紹一下Datum的格式：channels：圖片的通道，彩色圖有3個通道，灰度圖只有1通道，當然也可以用通道數(shù)來表示其他意思，比如表示兩張圖片，每個通道一個單張的圖；height：圖片（即data）的高；width：圖片（即data）的寬；data：圖片的數(shù)據(jù)（像素值）；label：圖片的label。(datum.channels, datum.height, datum.width)

以上這篇使用python操作lmdb對數(shù)據(jù)讀取的實例就是小編分享給大家的全部內(nèi)容了，希望能給大家一個參考，也希望大家多多支持腳本之家。

您可能感興趣的文章: