欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

Python 多線程不加鎖分塊讀取文件的方法

 更新時間：2018年12月11日 10:36:24   作者：sydiesel  
今天小編就為大家分享一篇Python 多線程不加鎖分塊讀取文件的方法，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧

多線程讀取或?qū)懭耄话銜婕暗酵降膯栴}，否則產(chǎn)生的結(jié)果是無法預(yù)期的。那么在讀取一個文件的時候，我們可以通過加鎖，但讀不像寫操作，會導(dǎo)致文件錯誤，另外鎖操作是有一定的耗時。因此通過文件分塊，可以比較有效的解決多線程讀問題，之前看到有人寫的分塊操作，比較復(fù)雜，需要實現(xiàn)建立好線程以及所讀取塊信息，在這里，我提供了一種比較簡便的方法，以供參考。

#!/user/bin/env python
#_*_coding:utf-8_*_
from threading import Thread
import time
from processing import Process, Queue

from multiprocessing import Process

file_path = 't'
fd = open(file_path, 'r')


def deal(thread_num):

 i = 1
 line_list = []

 #20是我的文件行數(shù)，正式情況下可以通過wc -l t獲取
 while i <= 20/thread_num:
 line_list.append(fd.readline())
 i += 1
 return line_list


def todo(thread_name, line_list):
 # print 'thread_name:',thread_name,'start'
 for line in line_list:
 print str(thread_name) + ' counsume:' + line
 # print 'thread_name:', thread_name, 'end'


if __name__ == '__main__':
 thread_num = 10
 thread_list = []
 for i in range(thread_num):
 line_list = deal(thread_num)
 t = Thread(target=todo, args=[i, line_list])
 t.start()
 thread_list.append(t)

 for t in thread_list:
 t.join()

下面是文件格式：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

運行的結(jié)果如下：

Python 多線程不加鎖分塊讀取文件

以上這篇Python 多線程不加鎖分塊讀取文件的方法就是小編分享給大家的全部內(nèi)容了，希望能給大家一個參考，也希望大家多多支持腳本之家。

相關(guān)文章

  • Linux環(huán)境下安裝python3

    Linux環(huán)境下安裝python3

    這篇文章介紹了Linux環(huán)境下安裝python3的方法，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2022-07-07
  • termux中matplotlib無法顯示中文問題的解決方法

    termux中matplotlib無法顯示中文問題的解決方法

    這篇文章主要介紹了termux中matplotlib無法顯示中文問題的解決方法，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2021-01-01
  • python用戶自定義異常的實例講解

    python用戶自定義異常的實例講解

    在本篇文章里小編給大家整理的是一篇關(guān)于python用戶自定義異常的實例講解，以后需要的朋友們可以跟著學(xué)習(xí)參考下。
    2021-07-07
  • python打包生成so文件的實現(xiàn)

    python打包生成so文件的實現(xiàn)

    這篇文章主要介紹了python打包生成so文件的實現(xiàn)，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2020-10-10
  • 一文教會你用Python讀取PDF文件

    一文教會你用Python讀取PDF文件

    Python?工程師在日常的工作中，經(jīng)常會碰到解析和處理PDF文件的情況。本文將pdfplumber進(jìn)行PDF文件的讀取操作，感興趣的可以了解一下
    2022-08-08
  • tensor和numpy的互相轉(zhuǎn)換的實現(xiàn)示例

    tensor和numpy的互相轉(zhuǎn)換的實現(xiàn)示例

    這篇文章主要介紹了tensor和numpy的互相轉(zhuǎn)換的實現(xiàn)示例，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2019-08-08
  • Python 如何解決稀疏矩陣運算

    Python 如何解決稀疏矩陣運算

    這篇文章主要介紹了Python 解決稀疏矩陣運算的操作，具有很好的參考價值，希望對大家有所幫助。
    2021-05-05
  • 詳解Python多線程

    詳解Python多線程

    這篇文章主要為大家詳細(xì)介紹了Python多線程的相關(guān)資料,具有一定的參考價值，感興趣的小伙伴們可以參考一下
    2016-11-11
  • 深入理解Python虛擬機(jī)中的Code?obejct

    深入理解Python虛擬機(jī)中的Code?obejct

    在本篇文章當(dāng)中主要給大家深入介紹在?cpython?當(dāng)中非常重要的一個數(shù)據(jù)結(jié)構(gòu)?code?object!?我們簡單介紹了一下在?code?object?當(dāng)中有哪些字段以及這些字段的簡單含義，在本篇文章當(dāng)中將會舉一些例子以便更加深入理解這些字段
    2023-04-04
  • Django實現(xiàn)將一個字典傳到前端顯示出來

    Django實現(xiàn)將一個字典傳到前端顯示出來

    這篇文章主要介紹了Django實現(xiàn)將一個字典傳到前端顯示出來，具有很好的參考價值，希望
    2020-04-04

最新評論