GoLang讀取文件的10種方法實例

一. 整個文件讀入內(nèi)存
直接將數(shù)據(jù)直接讀取入內(nèi)存,是效率最高的一種方式,但此種方式,僅適用于小文件,對于大文件,則不適合,因為比較浪費內(nèi)存
1.直接指定文化名讀取
在 Go 1.16 開始,ioutil.ReadFile 就等價于 os.ReadFile,二者是完全一致的
1.1使用os.ReadFile函數(shù)讀取文件
package main
import (
"fmt"
"os"
)
func main() {
//func ReadFile(name string) ([]byte, error) {}
content, err := os.ReadFile("a.txt")
if err != nil {
panic(err)
}
fmt.Println(string(content))
}
1.2使用ioutil.ReadFile函數(shù)讀取文件
package main
import (
"io/ioutil"
"fmt"
)
func main() {
content, err := ioutil.ReadFile("a.txt")
if err != nil {
panic(err)
}
fmt.Println(string(content))
}
// As of Go 1.16, this function simply calls os.ReadFile.
func ReadFile(filename string) ([]byte, error) {
return os.ReadFile(filename)
}
2.先創(chuàng)建句柄再讀取
2.1使用os.OpenFile函數(shù)只讀形式獲取句柄
package main
import (
"os"
"io/ioutil"
"fmt"
)
func main() {
/*func Open(name string) (*File, error) {
return OpenFile(name, O_RDONLY, 0)
}*/
//Open是一個高級函數(shù),是因為它是只讀模式來打開文件
/*也可以直接使用 os.OpenFile,只是要多加兩個參數(shù)
file, err := os.OpenFile("a.txt", os.O_RDONLY, 0)*/
file, err := os.Open("a.txt")
if err != nil {
panic(err)
}
//func (f *File) Close() error {}
defer file.Close()
//func ReadAll(r io.Reader) ([]byte, error) {}
content, err := ioutil.ReadAll(file)
fmt.Println(string(content))
}
2.2代碼講解
2.2.1os.File結(jié)構(gòu)體
type File struct {
*file // os specific
}
2.2.2os.OpenFile函數(shù)
func OpenFile(name string, flag int, perm FileMode) (
*File, error) {}
2.2.3io.Reader接口
type Reader interface {
Read(p []byte) (n int, err error)
}
二.每次只讀取一行
一次性讀取所有的數(shù)據(jù),太耗費內(nèi)存,因此可以指定每次只讀取一行數(shù)據(jù),方法有三種:
(1)bufio.讀行()
(2)bufio.讀取字節(jié)("\n")
(3)bufio.ReadString(’\n’)
在 bufio 的源碼注釋中,曾說道 bufio.ReadLine() 是低級庫,不太適合普通用戶使用,更推薦用戶使用 bufio.ReadBytes和bufio.ReadString 去讀取單行數(shù)據(jù)
因此,這里不再介紹 bufio.讀行()
1.使用bufio.Reader結(jié)構(gòu)體的ReadBytes方法讀取字節(jié)數(shù)
ReadBytes讀取直到第一次遇到delim字節(jié),返回一個包含已讀取的數(shù)據(jù)和delim字節(jié)的切片。如果ReadBytes方法在讀取到delim之前遇到了錯誤,它會返回在錯誤之前讀取的數(shù)據(jù)以及該錯誤(一般是io.EOF)。當(dāng)且僅當(dāng)ReadBytes方法返回的切片不以delim結(jié)尾時,會返回一個非nil的錯誤
package main
import (
"bufio"
"fmt"
"io"
"os"
"strings"
)
func main() {
// 創(chuàng)建句柄
fi, err := os.Open("christmas_apple.py")
if err != nil {
panic(err)
}
//func NewReader(rd io.Reader) *Reader {},返回的是bufio.Reader結(jié)構(gòu)體
r := bufio.NewReader(fi)// 創(chuàng)建 Reader
for {
//func (b *Reader) ReadBytes(delim byte) ([]byte, error) {}
lineBytes, err := r.ReadBytes('\n')
//去掉字符串首尾空白字符,返回字符串
line := strings.TrimSpace(string(lineBytes))
if err != nil && err != io.EOF {
panic(err)
}
if err == io.EOF {
break
}
fmt.Println(line)
}
}
2.使用bufio.Reader結(jié)構(gòu)體的ReadString方法讀取字符串
ReadString讀取直到第一次遇到delim字節(jié),返回一個包含已讀取的數(shù)據(jù)和delim字節(jié)的字符串。如果ReadString方法在讀取到delim之前遇到了錯誤,它會返回在錯誤之前讀取的數(shù)據(jù)以及該錯誤(一般是io.EOF)。當(dāng)且僅當(dāng)ReadString方法返回的切片不以delim結(jié)尾時,會返回一個非nil的錯誤
package main
import (
"bufio"
"fmt"
"io"
"os"
"strings"
)
func main() {
// 創(chuàng)建句柄
fi, err := os.Open("a.txt")
if err != nil {
panic(err)
}
// 創(chuàng)建 Reader
r := bufio.NewReader(fi)
for {
//func (b *Reader) ReadString(delim byte) (string, error) {}
line, err := r.ReadString('\n')
line = strings.TrimSpace(line)
if err != nil && err != io.EOF {
panic(err)
}
if err == io.EOF {
break
}
fmt.Println(line)
}
}
3.代碼講解
3.1bufio.Reader結(jié)構(gòu)體
type Reader struct {
buf []byte
rd io.Reader // reader provided by the client
r, w int // buf read and write positions
err error
lastByte int // last byte read for UnreadByte; -1 means invalid
lastRuneSize int // size of last rune read for UnreadRune; -1 means invalid
}
三.每次只讀取固定字節(jié)數(shù)
每次僅讀取一行數(shù)據(jù),可以解決內(nèi)存占用過大的問題,但要注意的是,并不是所有的文件都有換行符 \n;
因此對于一些不換行的大文件來說,還得再想想其他辦法
1.使用os庫
通用的做法是:
先創(chuàng)建一個文件句柄,可以使用 os.Open 或者 os.OpenFile;
然后 bufio.NewReader 創(chuàng)建一個 Reader;
然后在 for 循環(huán)里調(diào)用 Reader 的 Read 函數(shù),每次僅讀取固定字節(jié)數(shù)量的數(shù)據(jù)
Read方法讀取數(shù)據(jù)寫入p;本方法返回寫入p的字節(jié)數(shù);本方法一次調(diào)用最多會調(diào)用下層Reader接口一次Read方法,因此返回值n可能小于len§;讀取到達結(jié)尾時,返回值n將為0而err將為io.EOF
package main
import (
"bufio"
"fmt"
"io"
"os"
)
func main() {
// 創(chuàng)建句柄
fi, err := os.Open("a.txt")
if err != nil {
panic(err)
}
// 創(chuàng)建 Reader
r := bufio.NewReader(fi)
// 每次讀取 1024 個字節(jié)
buf := make([]byte, 1024)
for {
//func (b *Reader) Read(p []byte) (n int, err error) {}
n, err := r.Read(buf)
if err != nil && err != io.EOF {
panic(err)
}
if n == 0 {
break
}
fmt.Println(string(buf[:n]))
}
}
2.使用 syscall庫
os 庫本質(zhì)上也是調(diào)用 syscall 庫,但由于 syscall 過于底層,如非特殊需要,一般不會使用 syscall;
本篇為了內(nèi)容的完整度,這里也使用 syscall 來舉個例子;
本例中,會每次讀取 100 字節(jié)的數(shù)據(jù),并發(fā)送到通道中,由另外一個協(xié)程進行讀取并打印出來
package main
import (
"fmt"
"sync"
"syscall"
)
func main() {
fd, err := syscall.Open("christmas_apple.py", syscall.O_RDONLY, 0)
if err != nil {
fmt.Println("Failed on open: ", err)
}
defer syscall.Close(fd)
var wg sync.WaitGroup
wg.Add(2)
dataChan := make(chan []byte)
go func() {
wg.Done()
for {
data := make([]byte, 100)
n, _ := syscall.Read(fd, data)
if n == 0 {
break
}
dataChan <- data
}
close(dataChan)
}()
go func() {
defer wg.Done()
for {
select {
case data, ok := <-dataChan:
if !ok {
return
}
fmt.Printf(string(data))
default:
}
}
}()
wg.Wait()
}
總結(jié)
到此這篇關(guān)于GoLang讀取文件的10種方法的文章就介紹到這了,更多相關(guān)GoLang讀取文件內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
golang實現(xiàn)簡單的tcp數(shù)據(jù)傳輸
這篇文章主要為大家介紹了golang實現(xiàn)簡單的tcp數(shù)據(jù)傳輸,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪2022-12-12
golang socket斷點續(xù)傳大文件的實現(xiàn)方法
今天小編就為大家分享一篇golang socket斷點續(xù)傳大文件的實現(xiàn)方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-07-07

