欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

淺談python寫入大量文件的問題

 更新時間:2018年11月09日 09:01:37   作者:NesCafee  
今天小編就為大家分享一篇淺談python寫入大量文件的問題,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧

今天準(zhǔn)備把幾個txt文件合并成一個文件時,用f.write方法寫入時,發(fā)現(xiàn)程序執(zhí)行完了,本應(yīng)該十萬行左右的txt記錄,實際上只被寫入了4k多行。

網(wǎng)上查了是因為程序執(zhí)行速度太快,以至于讀到內(nèi)容還沒有完全寫入文件,文件就已經(jīng)關(guān)閉了

方法一:加入緩沖區(qū)

f.flush()
//operation
os.fsync(output)
f.close() 

打開文件后執(zhí)行flush(),關(guān)閉文件前執(zhí)行os.fsync()確保緩沖區(qū)的內(nèi)容都寫出去了。

方法二:用sleep

用了上述方法不行,因為我在打開文件后用了迭代輸出,可能會讓緩沖區(qū)爆炸,在循環(huán)中加入sleep函數(shù)可以確保每次循環(huán)都能將內(nèi)容寫入

 with open(outputfile,'a') as output:
  for i in all_txt_name:
   f =open(dir+'/'+i)
   for a in f:
    output.write(a)
    time.sleep(0.00000001)
   f.close()

后來發(fā)現(xiàn):

txt文件如果太大,在pycharm中只會顯示一小部分,可能是指顯示了部分文件導(dǎo)致未以為文件沒寫進(jìn)去,fuck

以上這篇淺談python寫入大量文件的問題就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持腳本之家。

相關(guān)文章

  • Pytorch卷積神經(jīng)網(wǎng)絡(luò)遷移學(xué)習(xí)的目標(biāo)及好處

    Pytorch卷積神經(jīng)網(wǎng)絡(luò)遷移學(xué)習(xí)的目標(biāo)及好處

    這篇文章主要為大家介紹了Pytorch卷積神經(jīng)網(wǎng)絡(luò)遷移學(xué)習(xí)的目標(biāo)實現(xiàn)代碼及好處介紹,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪
    2022-05-05
  • django之導(dǎo)入并執(zhí)行自定義的函數(shù)模塊圖解

    django之導(dǎo)入并執(zhí)行自定義的函數(shù)模塊圖解

    這篇文章主要介紹了django之導(dǎo)入并執(zhí)行自定義的函數(shù)模塊圖解,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2020-04-04
  • 淺談Python中chr、unichr、ord字符函數(shù)之間的對比

    淺談Python中chr、unichr、ord字符函數(shù)之間的對比

    chr、unichr、ord在Python中都可以被用作字符類型轉(zhuǎn)換,這里我們就來淺談Python中chr、unichr、ord字符函數(shù)之間的對比,需要的朋友可以參考下
    2016-06-06
  • python模塊之sys模塊和序列化模塊(實例講解)

    python模塊之sys模塊和序列化模塊(實例講解)

    下面小編就為大家?guī)硪黄猵ython模塊之sys模塊和序列化模塊(實例講解)。小編覺得挺不錯的,現(xiàn)在就分享給大家,也給大家做個參考。一起跟隨小編過來看看吧
    2017-09-09
  • Python 使用with上下文實現(xiàn)計時功能

    Python 使用with上下文實現(xiàn)計時功能

    with 語句適用于對資源進(jìn)行訪問的場合,確保不管使用過程中是否發(fā)生異常都會執(zhí)行必要的“清理”操作,釋放資源,比如文件使用后自動關(guān)閉、線程中鎖的自動獲取和釋放等。這篇文章主要介紹了Python 使用with上下文實現(xiàn)計時,需要的朋友可以參考下
    2018-03-03
  • Python2.7版os.path.isdir中文路徑返回false的解決方法

    Python2.7版os.path.isdir中文路徑返回false的解決方法

    這篇文章主要為大家詳細(xì)介紹了Python2.7版os.path.isdir中文路徑返回false的解決方法,具有一定的參考價值,感興趣的小伙伴們可以參考一下
    2019-06-06
  • Python實現(xiàn)的tcp端口檢測操作示例

    Python實現(xiàn)的tcp端口檢測操作示例

    這篇文章主要介紹了Python實現(xiàn)的tcp端口檢測操作,結(jié)合實例形式分析了Python使用socket模塊實現(xiàn)tcp端口檢測功能的相關(guān)操作技巧,需要的朋友可以參考下
    2018-07-07
  • Matlab求解數(shù)組中的最大值及它所在的具體位置

    Matlab求解數(shù)組中的最大值及它所在的具體位置

    這篇文章主要介紹了Matlab求解數(shù)組中的最大值及它所在的具體位置,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2021-04-04
  • 詳解Python GUI工具取色器

    詳解Python GUI工具取色器

    作為Python開發(fā)者,你遲早都會用到圖形用戶界面來開發(fā)應(yīng)用。本文將推薦Python GUI工具取色器的一些知識,感興趣的朋友一起看看吧
    2021-06-06
  • Python Scrapy框架第一個入門程序示例

    Python Scrapy框架第一個入門程序示例

    這篇文章主要介紹了Python Scrapy框架第一個入門程序,結(jié)合實例形式分析了Python Scrapy框架項目的搭建、抓取字段設(shè)置、數(shù)據(jù)庫保存等相關(guān)操作技巧,需要的朋友可以參考下
    2020-02-02

最新評論