Golang 實(shí)現(xiàn)超大文件讀取的兩種方法
更新時(shí)間：2021年04月27日 11:45:17 作者：wuhaung
這篇文章主要介紹了Golang 實(shí)現(xiàn)超大文件讀取的兩種方法，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來(lái)看看吧
Golang超大文件讀取的兩個(gè)方案
流處理方式
分片處理
去年的面試中我被問到超大文件你怎么處理，這個(gè)問題確實(shí)當(dāng)時(shí)沒多想，回來(lái)之后仔細(xì)研究和討論了下這個(gè)問題，對(duì)大文件讀取做了一個(gè)分析
比如我們有一個(gè)log文件，運(yùn)行了幾年，有100G之大。按照我們之前的操作可能代碼會(huì)這樣寫：
func ReadFile(filePath string) []byte{
content, err := ioutil.ReadFile(filePath)
if err != nil {
log.Println("Read error")
}
return content
}
上面的代碼讀取幾兆的文件可以，但是如果大于你本身及其內(nèi)存，那就直接翻車了。因?yàn)樯厦娴拇a，是把文件所有的內(nèi)容全部都讀取到內(nèi)存之后返回，幾兆的文件，你內(nèi)存夠大可以處理，但是一旦上幾百兆的文件，就沒那么好處理了。
那么，正確的方法有兩種
第一個(gè)是使用流處理方式代碼如下
func ReadFile(filePath string, handle func(string)) error {
f, err := os.Open(filePath)
defer f.Close()
if err != nil {
return err
}
buf := bufio.NewReader(f)
for {
line, err := buf.ReadLine("\n")
line = strings.TrimSpace(line)
handle(line)
if err != nil {
if err == io.EOF{
return nil
}
return err
}
return nil
}
}
第二個(gè)方案就是分片處理
當(dāng)讀取的是二進(jìn)制文件，沒有換行符的時(shí)候，使用下面的方案一樣處理大文件
func ReadBigFile(fileName string, handle func([]byte)) error {
f, err := os.Open(fileName)
if err != nil {
fmt.Println("can't opened this file")
return err
}
defer f.Close()
s := make([]byte, 4096)
for {
switch nr, err := f.Read(s[:]); true {
case nr < 0:
fmt.Fprintf(os.Stderr, "cat: error reading: %s\n
補(bǔ)充：golang 讀取大文件處理sync.pool + bufio.NewReader(f)
看代碼吧~
文件大小
package main
import (
"bufio"
"fmt"
"io"
//"math"
"os"
"strings"
"sync"
"time"
)
func main() {
/*
文件數(shù)據(jù)樣例
{"remark": "來(lái)電時(shí)間： 2021/04/15 13:52:07客戶電話：13913xx39xx ", "no": "600020510132021101310210547639", "title": "b-ae0e-0242ac100907", "call_in_date": "2021-04-15 13:52:12", "name": "張三", "_date": "2021-06-15", "name": "張三", "meet": "1"}
1、我們?nèi)〕?call_in_date": "2021-04-15 13:52:1的數(shù)據(jù)寫入另一個(gè)文件
*/
var (
s time.Time //當(dāng)前時(shí)間
file *os.File
fileStat os.FileInfo
err error
lastLineSize int64
)
s = time.Now()
if file, err = os.Open("/Users/zhangsan/Downloads/log.txt");err != nil{
fmt.Println(err)
}
defer func() {
err = file.Close() //close after checking err
}()
//queryStartTime, err := time.Parse("2006-01-02T15:04:05.0000Z", startTimeArg)
//if err != nil {
// fmt.Println("Could not able to parse the start time", startTimeArg)
// return
//}
//
//queryFinishTime, err := time.Parse("2006-01-02T15:04:05.0000Z", finishTimeArg)
//if err != nil {
// fmt.Println("Could not able to parse the finish time", finishTimeArg)
// return
//}
/**
* {name:"log.log", size:911100961, mode:0x1a4,
modTime:time.Time{wall:0x656c25c, ext:63742660691,
loc:(*time.Location)(0x1192c80)}, sys:syscall.Stat_t{Dev:16777220,
Mode:0x81a4, Nlink:0x1, Ino:0x118cba7, Uid:0x1f5, Gid:0x14, Rdev:0,
Pad_cgo_0:[4]uint8{0x0, 0x0, 0x0, 0x0}, Atimespec:syscall.Timespec{Sec:1607063899, Nsec:977970393},
Mtimespec:syscall.Timespec{Sec:1607063891, Nsec:106349148}, Ctimespec:syscall.Timespec{Sec:1607063891,
Nsec:258847043}, Birthtimespec:syscall.Timespec{Sec:1607063883, Nsec:425808150},
Size:911100961, Blocks:1784104, Blksize:4096, Flags:0x0, Gen:0x0, Lspare:0, Qspare:[2]int64{0, 0}}
*
*/
if fileStat, err = file.Stat();err != nil {
return
}
fileSize := fileStat.Size()//72849354767
offset := fileSize - 1
//檢測(cè)是不是都是空行 只有\(zhòng)n
for {
var (
b []byte
n int
char string
)
b = make([]byte, 1)
//從指定位置讀取
if n, err = file.ReadAt(b, offset);err != nil {
fmt.Println("Error reading file ", err)
break
}
char = string(b[0])
if char == "\n" {
break
}
offset--
//獲取一行的大小
lastLineSize += int64(n)
}
var (
lastLine []byte
logSlice []string
logSlice1 []string
)
//初始化一行大小的空間
lastLine = make([]byte, lastLineSize)
_, err = file.ReadAt(lastLine, offset)
if err != nil {
fmt.Println("Could not able to read last line with offset", offset, "and lastline size", lastLineSize)
return
}
//根據(jù)條件進(jìn)行區(qū)分
logSlice = strings.Split(strings.Trim(string(lastLine),"\n"),"next_pay_date")
logSlice1 = strings.Split(logSlice[1],"\"")
if logSlice1[2] == "2021-06-15"{
Process(file)
}
fmt.Println("\nTime taken - ", time.Since(s))
fmt.Println(err)
}
func Process(f *os.File) error {
//讀取數(shù)據(jù)的key，減小gc壓力
linesPool := sync.Pool{New: func() interface{} {
lines := make([]byte, 250*1024)
return lines
}}
//讀取回來(lái)的數(shù)據(jù)池
stringPool := sync.Pool{New: func() interface{} {
lines := ""
return lines
}}
//一個(gè)文件對(duì)象本身是實(shí)現(xiàn)了io.Reader的 使用bufio.NewReader去初始化一個(gè)Reader對(duì)象，存在buffer中的，讀取一次就會(huì)被清空
r := bufio.NewReader(f) //
//設(shè)置讀取緩沖池大小 默認(rèn)16
r = bufio.NewReaderSize(r,250 *1024)
var wg sync.WaitGroup
for {
buf := linesPool.Get().([]byte)
//讀取Reader對(duì)象中的內(nèi)容到[]byte類型的buf中
n, err := r.Read(buf)
buf = buf[:n]
if n == 0 {
if err != nil {
fmt.Println(err)
break
}
if err == io.EOF {
break
}
return err
}
//補(bǔ)齊剩下沒滿足的剩余
nextUntillNewline, err := r.ReadBytes('\n')
//fmt.Println(string(nextUntillNewline))
if err != io.EOF {
buf = append(buf, nextUntillNewline...)
}
wg.Add(1)
go func() {
ProcessChunk(buf, &linesPool, &stringPool)
wg.Done()
}()
}
wg.Wait()
return nil
}
func ProcessChunk(chunk []byte, linesPool *sync.Pool,stringPool *sync.Pool) {
//做相應(yīng)的處理
}
執(zhí)行
go run test2.go "2020-01-01T00:00:00.0000Z" "2020-02-02T00:00:00.0000Z" /Users/zhangsan/go/src/workspace/test/log.log
EOF Time taken - 20.023517675s <nil>
以上為個(gè)人經(jīng)驗(yàn)，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。如有錯(cuò)誤或未考慮完全的地方，望不吝賜教。
相關(guān)文章
Go類型斷言提取測(cè)試接口值動(dòng)態(tài)類型及靜態(tài)轉(zhuǎn)換確保類型接口編譯安全
這篇文章主要為大家介紹了Go類型斷言提取測(cè)試接口值動(dòng)態(tài)類型及靜態(tài)轉(zhuǎn)換確保類型實(shí)現(xiàn)特定接口的編譯時(shí)安全性詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2023-10-10
goroutine?不是os線程、不是綠色線程（由語(yǔ)言運(yùn)行時(shí)管理的線程），是協(xié)程。協(xié)程是一種非搶占式的簡(jiǎn)單并發(fā)子goroutine（函數(shù)、閉包或方法），也就是說(shuō)，它們不能被中斷。取而代之的是，協(xié)程有多個(gè)點(diǎn)，允許暫?；蛑匦逻M(jìn)入?—Go語(yǔ)言并發(fā)之道2022-06-06
這篇文章主要為大家介紹了Go?為什么不支持可重入鎖原理解析,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2023-08-08
Golang巧用defer進(jìn)行錯(cuò)誤處理的方法
錯(cuò)誤處理是程序的重要組成部分，有效且優(yōu)雅的處理錯(cuò)誤是大多數(shù)程序員的追求，下面這篇文章主要給大家介紹了關(guān)于Golang中巧用defer進(jìn)行錯(cuò)誤處理的方法，文中通過示例介紹的非常詳細(xì)，對(duì)大家具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面來(lái)一起看看吧。2017-05-05
這篇文章主要介紹了golang時(shí)間處理工具箱now的使用詳解，幫助大家更好的理解和學(xué)習(xí)使用golang，感興趣的朋友可以了解下2021-02-02
這篇文章主要介紹了Go語(yǔ)言文件操作的方法,涉及文件的讀寫及關(guān)閉等操作技巧,具有一定參考借鑒價(jià)值,需要的朋友可以參考下2015-02-02
Go語(yǔ)言利用ffmpeg轉(zhuǎn)hls實(shí)現(xiàn)簡(jiǎn)單視頻直播
這篇文章主要為大家介紹了Go語(yǔ)言利用ffmpeg轉(zhuǎn)hls實(shí)現(xiàn)簡(jiǎn)單視頻直播，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪2022-04-04
Go Excelize API源碼閱讀GetPageLayout及SetPageMargins
這篇文章主要為大家介紹了Go Excelize API源碼閱讀GetPageLayout及SetPageMargins的方法示例，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪2022-08-08
Go語(yǔ)言實(shí)現(xiàn)操作MySQL的基礎(chǔ)知識(shí)總結(jié)
這篇文章主要總結(jié)一下怎么使用Go語(yǔ)言操作MySql數(shù)據(jù)庫(kù)，文中的示例代碼講解詳細(xì)，需要的朋友可以參考以下內(nèi)容，希望對(duì)大家有所幫助2022-09-09
Golang學(xué)習(xí)筆記（四）：array、slice、map
這篇文章主要介紹了Golang學(xué)習(xí)筆記（四）：array、slice、map,本文分別講解了這3個(gè)類型的聲明&賦值、元素訪問、其它操作,需要的朋友可以參考下2015-05-05