深入淺出了解Node.js Streams
什么是流(steams)
流(stream)是 Node.js 中處理流式數(shù)據(jù)的抽象接口。
Streams 不是 Node.js 獨(dú)有的概念。它們是幾十年前在 Unix 操作系統(tǒng)中引入的。
它們能夠以一種有效的方式來(lái)處理文件的讀、寫,網(wǎng)絡(luò)通信或任何類型的端到端信息交換。
例如,當(dāng)你編寫了一段程序用來(lái)讀取文件時(shí),傳統(tǒng)的方法是將文件從頭到尾讀入內(nèi)存,然后再進(jìn)行處理。而使用流的話,你就可以逐塊讀取它,處理其內(nèi)容而不將其全部保存在內(nèi)存中。
以如下代碼為例
const fs = require('fs'); const rs = fs.createReadStream('test.md'); let data = ''; rs.on("data", function (chunk) { data += chunk; }); rs.on("end", function() { console.log(data); });
利用 createReadStream 創(chuàng)建一個(gè)讀取數(shù)據(jù)的流,來(lái)讀取 test.md 文件的內(nèi)容,此時(shí)監(jiān)聽 data 事件,它是在當(dāng)流將數(shù)據(jù)塊傳送給消費(fèi)者后觸發(fā)。并在對(duì)應(yīng)的 eventHandler 中,拼接 chunk。在 end 事件中,打印到終端上。
之前說(shuō)流,可以逐塊讀取文件內(nèi)容,那么這個(gè)塊,也就是 chunk 是什么?
一般情況下是 Buffer,修改 data 事件的 eventHandler 來(lái)驗(yàn)證下
rs.on("data", function (chunk) { console.log("chunk", Buffer.isBuffer(chunk)) // log true data += chunk; });
流的工作方式可以具體的表述為,在內(nèi)存中準(zhǔn)備一段 Buffer,然后在 fs.read() 讀取時(shí)逐步從磁盤中將字節(jié)復(fù)制到 Buffer 中。
為什么要使用 Stream
利用 Stream 來(lái)處理數(shù)據(jù),主要是因?yàn)樗膬蓚€(gè)優(yōu)點(diǎn):
內(nèi)存效率:在夠處理數(shù)據(jù)之前,不需要占用大量?jī)?nèi)存;
時(shí)間效率:處理數(shù)據(jù)花費(fèi)的時(shí)間更少,因?yàn)榱魇侵饓K來(lái)處理數(shù)據(jù),而不是等到整個(gè)數(shù)據(jù)有效負(fù)載才啟動(dòng)。
首先內(nèi)存效率,與 fs.readFile 這種會(huì)緩沖整個(gè)文件相比,流式傳輸充分地利用 Buffer (超過(guò) 8kb)不受 V8 內(nèi)存控制的特點(diǎn),利用堆外內(nèi)存完成高效地傳輸。相關(guān)驗(yàn)證可以參考這篇博文,地址。
時(shí)間效率,與 fs.FileSync 相比,有些優(yōu)勢(shì),但是與異步的 fs.readFile 相比,優(yōu)勢(shì)不大。
Node.js 中 Stream 的使用
首先用一張圖來(lái)了解下 Node.js 中有哪些內(nèi)置的 Stream 接口
圖中提供了一些 Node.js 原生的流的示例,有些是可讀、寫的流。 也有一些是可讀寫的流,如 TCP sockets、zlib 以及 crypto。
特別注意: 流的讀、寫與環(huán)境是密切相關(guān)的。例如 HTTP 響應(yīng)在客戶端上的可讀流,但它是服務(wù)器上的可寫流。同時(shí)還需要注意,stdio streams(stdin,stdout,stderr) 在子進(jìn)程上是相反的流。
使用一個(gè)例子來(lái)展示流的使用
首先利用如下腳本創(chuàng)建一個(gè)比較大的文件(大概 430 MB)
const fs = require('fs'); const file = fs.createWriteStream('test.md'); for(let i=0; i<= 1e6; i++) { file.write('hello world.\n'); } file.end();
在當(dāng)前目錄下,啟動(dòng) http 服務(wù)
const http = require('http') const fs = require('fs') const server = http.createServer(function (req, res) { fs.readFile(__dirname + '/test.md', (err, data) => { res.end(data) }) }) server.listen(3000)
得到的結(jié)果,如圖
const http = require('http') const fs = require('fs') const server = http.createServer((req, res) => { const stream = fs.createReadStream(__dirname + '/test.md') stream.pipe(res) }) server.listen(3000)
時(shí)間減少了 2s 多。這可以解釋為,在讀取文件內(nèi)容,并且不需要改變內(nèi)容的場(chǎng)景下,流能夠完成只讀取 buffer,然后直接傳輸,不做額外的轉(zhuǎn)換,避免損耗,提高性能。
上述代碼中,應(yīng)用了 stream.pipe(...) 。它主要是對(duì)流進(jìn)行鏈?zhǔn)降毓艿啦僮?,例?br />
src.pipe(dest1).pipe(dest2)
這樣數(shù)據(jù)流會(huì)被自動(dòng)管理。
如果可讀流發(fā)生錯(cuò)誤,目標(biāo)可寫流不會(huì)自動(dòng)關(guān)閉,需要手動(dòng)關(guān)閉所有流以避免內(nèi)存泄漏。
通常,當(dāng)你使用 pipe 方法時(shí),就不需要使用事件,但如果場(chǎng)景需要以更靈活、自定義的方式使用流,那么就要考慮事件。
Stream events
在上述例子中,我們使用了可讀流的 data 、end 事件來(lái)控制文件的讀取,它本質(zhì)上與 pipe 方法相同,例如
# readable.pipe(writable) readable.on('data', (chunk) => { writable.write(chunk); }); readable.on('end', () => { writable.end(); });
只不過(guò),使用 event 會(huì)更加靈活,可控。
圖中簡(jiǎn)單羅列了可讀流、可寫流的相關(guān)事件、方法,其中最重要的是
可讀流:
- data 事件:每當(dāng)流將一大塊數(shù)據(jù)傳遞時(shí),就會(huì)觸發(fā);
- end 事件:當(dāng)沒有更多數(shù)據(jù)要從流發(fā)出時(shí),就會(huì)觸發(fā)。
可寫流:
- drain 事件:當(dāng)可以繼續(xù)寫入數(shù)據(jù)到流時(shí)會(huì)觸發(fā)事件;
- finish 事件:處理完全部數(shù)據(jù)塊之后觸發(fā)。
流的不同類型
除了上面涉及到的可讀、寫流之后,還有 Duplex、Transform 兩類:
- Readable :可以接收數(shù)據(jù),但不能向其發(fā)送數(shù)據(jù)。當(dāng)你將數(shù)據(jù)推送到可讀流中時(shí),它會(huì)被緩沖,直到消費(fèi)者開始讀取數(shù)據(jù);
- writable :可以發(fā)送數(shù)據(jù),但不能從中接收;
- Duplex :即可讀也可寫;
- Tranform :與 Duplex 一樣是可寫又可讀的,但它的輸出與輸入是相關(guān)聯(lián)的。
如何創(chuàng)建一個(gè)可讀流
這里只做簡(jiǎn)單介紹,具體見 stream module。
const Stream = require('stream') const readableStream = new Stream.Readable() readableStream._read = (size) => { console.log('read', size) }
利用 Stream 模塊初始化一個(gè)可讀流,然后向其中發(fā)送數(shù)據(jù)
readableStream.push('hi!') readableStream.push('ho!')
如何創(chuàng)建一個(gè)可寫流
為了創(chuàng)建可寫流,需要擴(kuò)展了基本的 Writable 對(duì)象,并實(shí)現(xiàn)了它的 _write 方法。
const Stream = require('stream') const writableStream = new Stream.Writable()
實(shí)現(xiàn) _write 方法:
writableStream._write = (chunk, encoding, next) => { console.log(chunk.toString()) next() }
結(jié)合上述例子實(shí)現(xiàn)
利用 readableStream 讀入數(shù)據(jù),并輸出到 writableStream
const Stream = require('stream') const readableStream = new Stream.Readable() readableStream._read = (size) => { console.log('read', size) } const writableStream = new Stream.Writable() writableStream._write = (chunk, encoding, next) => { console.log('write', chunk.toString()) next() } readableStream.pipe(writableStream) readableStream.push('hi!') readableStream.push('ho!') /* log: read 16384 write hi! write ho! */
以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
- Node.js Streams文件讀寫操作詳解
- node.js基于fs模塊對(duì)系統(tǒng)文件及目錄進(jìn)行讀寫操作的方法詳解
- 基于node.js的fs核心模塊讀寫文件操作(實(shí)例講解)
- Node.js實(shí)戰(zhàn)之Buffer和Stream模塊系統(tǒng)深入剖析詳解
- Node.js數(shù)據(jù)流Stream之Duplex流和Transform流用法
- Node.js數(shù)據(jù)流Stream之Readable流和Writable流用法
- node.js中stream流中可讀流和可寫流的實(shí)現(xiàn)與使用方法實(shí)例分析
- node.js使用stream模塊實(shí)現(xiàn)自定義流示例
- Node.js中你不可不精的Stream(流)
- Node.js fs模塊(文件模塊)創(chuàng)建、刪除目錄(文件)讀取寫入文件流的方法
- Node.js從字符串生成文件流的實(shí)現(xiàn)方法
- node.js同步/異步文件讀寫-fs,Stream文件流操作實(shí)例詳解
相關(guān)文章
nodejs socket實(shí)現(xiàn)的服務(wù)端和客戶端功能示例
這篇文章主要介紹了nodejs socket實(shí)現(xiàn)的服務(wù)端和客戶端功能,結(jié)合具體實(shí)例形式分析了nodejs基于socket通信實(shí)現(xiàn)的服務(wù)端與客戶端功能相關(guān)操作技巧,需要的朋友可以參考下2017-06-06node.js文件上傳重命名以及移動(dòng)位置的示例代碼
本篇文章主要介紹了node.js文件上傳重命名以及移動(dòng)位置的示例代碼,小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2018-01-01使用nodejs?+?koa?+?typescript?集成和自動(dòng)重啟的問題
這篇文章主要介紹了nodejs?+?koa?+?typescript?集成和自動(dòng)重啟,本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2021-12-12通過(guò)node-mysql搭建Windows+Node.js+MySQL環(huán)境的教程
這篇文章主要介紹了通過(guò)node-mysql搭建Windows+Node.js+MySQL環(huán)境的教程,node-mysql是JavaScript編寫的一個(gè)Node的MySQL驅(qū)動(dòng),需要的朋友可以參考下2016-03-03使用nodejs搭建一個(gè)簡(jiǎn)易HTTP服務(wù)的實(shí)現(xiàn)示例
本文主要介紹了使用nodejs搭建一個(gè)簡(jiǎn)易HTTP服務(wù)的實(shí)現(xiàn)示例,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2022-05-05Nodejs使用express連接數(shù)據(jù)庫(kù)mongoose的示例
數(shù)據(jù)庫(kù)并進(jìn)行操作通常需要使用第三方庫(kù),其中最流行的是mongoose,本文主要介紹了Nodejs使用express連接數(shù)據(jù)庫(kù)mongoose的示例,具有一定的參考價(jià)值,感興趣的可以了解一下2024-06-06Nuxt配合Node在實(shí)際生產(chǎn)中的應(yīng)用詳解
這篇文章主要介紹了Nuxt配合Node在實(shí)際生產(chǎn)中的應(yīng)用詳解,小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2018-08-08