深入nodejs中流(stream)的理解
nodejs的fs
模塊并沒(méi)有提供一個(gè)copy
的方法,但我們可以很容易的實(shí)現(xiàn)一個(gè),比如:
var source = fs.readFileSync('/path/to/source', {encoding: 'utf8'}); fs.writeFileSync('/path/to/dest', source);
這種方式是把文件內(nèi)容全部讀入內(nèi)存,然后再寫(xiě)入文件,對(duì)于小型的文本文件,這沒(méi)有多大問(wèn)題,比如grunt-file-copy就是這樣實(shí)現(xiàn)的。但是對(duì)于體積較大的二進(jìn)制文件,比如音頻、視頻文件,動(dòng)輒幾個(gè)GB大小,如果使用這種方法,很容易使內(nèi)存“爆倉(cāng)”。理想的方法應(yīng)該是讀一部分,寫(xiě)一部分,不管文件有多大,只要時(shí)間允許,總會(huì)處理完成,這里就需要用到流的概念。
如上面高大上的圖片所示,我們把文件比作裝水的桶,而水就是文件里的內(nèi)容,我們用一根管子(pipe)連接兩個(gè)桶使得水從一個(gè)桶流入另一個(gè)桶,這樣就慢慢的實(shí)現(xiàn)了大文件的復(fù)制過(guò)程。
Stream
在nodejs中是EventEmitter
的實(shí)現(xiàn),并且有多種實(shí)現(xiàn)形式,例如:
- http responses request
- fs read write streams
- zlib streams
- tcp sockets
- child process stdout and stderr
上面的文件復(fù)制可以簡(jiǎn)單實(shí)現(xiàn)一下:
var fs = require('fs'); var readStream = fs.createReadStream('/path/to/source'); var writeStream = fs.createWriteStream('/path/to/dest'); readStream.on('data', function(chunk) { // 當(dāng)有數(shù)據(jù)流出時(shí),寫(xiě)入數(shù)據(jù) writeStream.write(chunk); }); readStream.on('end', function() { // 當(dāng)沒(méi)有數(shù)據(jù)時(shí),關(guān)閉數(shù)據(jù)流 writeStream.end(); });
上面的寫(xiě)法有一些問(wèn)題,如果寫(xiě)入的速度跟不上讀取的速度,有可能導(dǎo)致數(shù)據(jù)丟失。正常的情況應(yīng)該是,寫(xiě)完一段,再讀取下一段,如果沒(méi)有寫(xiě)完的話,就讓讀取流先暫停,等寫(xiě)完再繼續(xù),于是代碼可以修改為:
var fs = require('fs'); var readStream = fs.createReadStream('/path/to/source'); var writeStream = fs.createWriteStream('/path/to/dest'); readStream.on('data', function(chunk) { // 當(dāng)有數(shù)據(jù)流出時(shí),寫(xiě)入數(shù)據(jù) if (writeStream.write(chunk) === false) { // 如果沒(méi)有寫(xiě)完,暫停讀取流 readStream.pause(); } }); writeStream.on('drain', function() { // 寫(xiě)完后,繼續(xù)讀取 readStream.resume(); }); readStream.on('end', function() { // 當(dāng)沒(méi)有數(shù)據(jù)時(shí),關(guān)閉數(shù)據(jù)流 writeStream.end(); });
或者使用更直接的pipe
// pipe自動(dòng)調(diào)用了data,end等事件 fs.createReadStream('/path/to/source').pipe(fs.createWriteStream('/path/to/dest'));
下面是一個(gè)更加完整的復(fù)制文件的過(guò)程
var fs = require('fs'), path = require('path'), out = process.stdout; var filePath = '/Users/chen/Movies/Game.of.Thrones.S04E07.1080p.HDTV.x264-BATV.mkv'; var readStream = fs.createReadStream(filePath); var writeStream = fs.createWriteStream('file.mkv'); var stat = fs.statSync(filePath); var totalSize = stat.size; var passedLength = 0; var lastSize = 0; var startTime = Date.now(); readStream.on('data', function(chunk) { passedLength += chunk.length; if (writeStream.write(chunk) === false) { readStream.pause(); } }); readStream.on('end', function() { writeStream.end(); }); writeStream.on('drain', function() { readStream.resume(); }); setTimeout(function show() { var percent = Math.ceil((passedLength / totalSize) * 100); var size = Math.ceil(passedLength / 1000000); var diff = size - lastSize; lastSize = size; out.clearLine(); out.cursorTo(0); out.write('已完成' + size + 'MB, ' + percent + '%, 速度:' + diff * 2 + 'MB/s'); if (passedLength < totalSize) { setTimeout(show, 500); } else { var endTime = Date.now(); console.log(); console.log('共用時(shí):' + (endTime - startTime) / 1000 + '秒。'); } }, 500);
可以把上面的代碼保存為copy.js
試驗(yàn)一下
我們添加了一個(gè)遞歸的setTimeout
(或者直接使用setInterval)來(lái)做一個(gè)旁觀者,每500ms觀察一次完成進(jìn)度,并把已完成的大小、百分比和復(fù)制速度一并寫(xiě)到控制臺(tái)上,當(dāng)復(fù)制完成時(shí),計(jì)算總的耗費(fèi)時(shí)間,效果如圖:
我們復(fù)制了一集1080p的權(quán)利的游戲第四季第7集,大概3.78G大小,由于使用了SSD,可以看到速度還是非常不錯(cuò)的,哈哈哈~ 復(fù)制完成后,顯示總花費(fèi)時(shí)間
結(jié)合nodejs的readline
, process.argv
等模塊,我們可以添加覆蓋提示、強(qiáng)制覆蓋、動(dòng)態(tài)指定文件路徑等完整的復(fù)制方法,有興趣的可以實(shí)現(xiàn)一下,實(shí)現(xiàn)完成,可以
ln -s /path/to/copy.js /usr/local/bin/mycopy
這樣就可以使用自己寫(xiě)的mycopy
命令替代系統(tǒng)的cp
命令
以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
- 快速了解Node中的Stream流是什么
- node.js使用stream模塊實(shí)現(xiàn)自定義流示例
- Node.js中你不可不精的Stream(流)
- 詳解nodeJs文件系統(tǒng)(fs)與流(stream)
- Node.js中流(stream)的使用方法示例
- Nodejs Stream 數(shù)據(jù)流使用手冊(cè)
- Node.js中的流(Stream)介紹
- 說(shuō)說(shuō)node中的可讀流和可寫(xiě)流的區(qū)別
- 淺談手寫(xiě)node可讀流之流動(dòng)模式
- node.js中stream流中可讀流和可寫(xiě)流的實(shí)現(xiàn)與使用方法實(shí)例分析
相關(guān)文章
NodeJS設(shè)計(jì)模式總結(jié)【單例模式,適配器模式,裝飾模式,觀察者模式】
這篇文章主要介紹了NodeJS設(shè)計(jì)模式,結(jié)合實(shí)例形式總結(jié)分析了nodejs單例模式,適配器模式,裝飾模式,觀察者模式的概念、原理與具體實(shí)現(xiàn)技巧,需要的朋友可以參考下2017-09-09NodeJS實(shí)現(xiàn)微信公眾號(hào)關(guān)注后自動(dòng)回復(fù)功能
這篇文章主要為大家詳細(xì)介紹了NodeJS實(shí)現(xiàn)微信公眾號(hào)關(guān)注后自動(dòng)回復(fù)功能,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2017-05-05npm?install總是卡住不動(dòng)問(wèn)題的解決辦法
在我們安裝完Node.js之后,需要使用npm命令來(lái)安裝一些工具,下面這篇文章主要給大家介紹了關(guān)于npm?install總是卡住不動(dòng)問(wèn)題的解決辦法,需要的朋友可以參考下2022-05-05node.js中的fs.fchmod方法使用說(shuō)明
這篇文章主要介紹了node.js中的fs.fchmod方法使用說(shuō)明,本文介紹了fs.fchmod的方法說(shuō)明、語(yǔ)法、接收參數(shù)、使用實(shí)例和實(shí)現(xiàn)源碼,需要的朋友可以參考下2014-12-12node.js中的querystring.stringify方法使用說(shuō)明
這篇文章主要介紹了node.js中的querystring.stringify方法使用說(shuō)明,本文介紹了querystring.stringify的方法說(shuō)明、語(yǔ)法、接收參數(shù)、使用實(shí)例和實(shí)現(xiàn)源碼,需要的朋友可以參考下2014-12-12Nodejs+express+html5 實(shí)現(xiàn)拖拽上傳
文件上傳是一個(gè)比較常見(jiàn)的功能,傳統(tǒng)的選擇方式的上傳比較麻煩,需要先點(diǎn)擊上傳按鈕,然后再找到文件的路徑,然后上傳。給用戶體驗(yàn)帶來(lái)很大問(wèn)題。html5開(kāi)始支持拖拽上傳的需要的api。nodejs也是一個(gè)最近越來(lái)越流行的技術(shù),這也是自己第一次接觸nodejs。2014-08-08