快捷導(dǎo)航

Nodejs學(xué)習(xí)筆記之Stream模塊

更新時間：2015年01月13日 10:30:40 投稿：hebedich

nodejs的fs模塊并沒有提供一個copy的方法，但我們可以很容易的實現(xiàn)一個，這種方式是把文件內(nèi)容全部讀入內(nèi)存，然后再寫入文件，對于小型的文本文件，這沒有多大問題，比如grunt-file-copy就是這樣實現(xiàn)的。

一，開篇分析

流是一個抽象接口，被 Node 中的很多對象所實現(xiàn)。比如對一個 HTTP 服務(wù)器的請求是一個流，stdout 也是一個流。流是可讀，可寫或兼具兩者的。

最早接觸Stream是從早期的unix開始的，數(shù)十年的實踐證明Stream 思想可以很簡單的開發(fā)出一些龐大的系統(tǒng)。

在unix里，Stream是通過 "|" 實現(xiàn)的。在node中，作為內(nèi)置的stream模塊，很多核心模塊和三方模塊都使用到。

和unix一樣，node stream主要的操作也是.pipe()，使用者可以使用反壓力機制來控制讀和寫的平衡。

Stream 可以為開發(fā)者提供可以重復(fù)使用統(tǒng)一的接口，通過抽象的Stream接口來控制Stream之間的讀寫平衡。

一個TCP連接既是可讀流，又是可寫流，而Http連接則不同，一個http request對象是可讀流，而http response對象則是可寫流。

流的傳輸過程默認是以buffer的形式傳輸?shù)模悄憬o他設(shè)置其他編碼形式,以下是一個例子：

復(fù)制代碼代碼如下:

 var http = require('http') ;

  var server = http.createServer(function(req,res){

     res.writeHeader(200, {'Content-Type': 'text/plain'}) ;

     res.end("Hello,大熊！") ;

  }) ;

  server.listen(8888) ;

  console.log("http server running on port 8888 ...") ;

運行后會有亂碼出現(xiàn)，原因就是沒有設(shè)置指定的字符集，比如：“utf-8” 。

修改一下就好：

復(fù)制代碼代碼如下:

 var http = require('http') ;

 var server = http.createServer(function(req,res){

    res.writeHeader(200,{

        'Content-Type' : 'text/plain;charset=utf-8'  // 添加charset=utf-8

    }) ;

    res.end("Hello,大熊！") ;

 }) ;

 server.listen(8888) ;

 console.log("http server running on port 8888 ...") ;

運行結(jié)果：

為什么使用Stream
node中的I/O是異步的，因此對磁盤和網(wǎng)絡(luò)的讀寫需要通過回調(diào)函數(shù)來讀取數(shù)據(jù)，下面是一個文件下載例子
上代碼：

復(fù)制代碼代碼如下:

 var http = require('http') ;

 var fs = require('fs') ;

 var server = http.createServer(function (req, res) {

     fs.readFile(__dirname + '/data.txt', function (err, data) {

         res.end(data);

     }) ;

 }) ;

 server.listen(8888) ;

代碼可以實現(xiàn)需要的功能，但是服務(wù)在發(fā)送文件數(shù)據(jù)之前需要緩存整個文件數(shù)據(jù)到內(nèi)存，如果"data.txt"文件很
大并且并發(fā)量很大的話，會浪費很多內(nèi)存。因為用戶需要等到整個文件緩存到內(nèi)存才能接受的文件數(shù)據(jù)，這樣導(dǎo)致
用戶體驗相當不好。不過還好(req,res)兩個參數(shù)都是Stream，這樣我們可以用fs.createReadStream()代替fs.readFile()。如下：

復(fù)制代碼代碼如下:

 var http = require('http') ;

 var fs = require('fs') ;

 var server = http.createServer(function (req, res) {

     var stream = fs.createReadStream(__dirname + '/data.txt') ;

     stream.pipe(res) ;

 }) ;

 server.listen(8888) ;

.pipe()方法監(jiān)聽fs.createReadStream()的'data' 和'end'事件，這樣"data.txt"文件就不需要緩存整
個文件，當客戶端連接完成之后馬上可以發(fā)送一個數(shù)據(jù)塊到客戶端。使用.pipe()另一個好處是可以解決當客戶
端延遲非常大時導(dǎo)致的讀寫不平衡問題。

有五種基本的Stream：readable，writable，transform，duplex，and "classic” 。（具體使用請自己查閱api）

二，實例引入

當內(nèi)存中無法一次裝下需要處理的數(shù)據(jù)時，或者一邊讀取一邊處理更加高效時，我們就需要用到數(shù)據(jù)流。NodeJS中通過各種Stream來提供對數(shù)據(jù)流的操作。

以大文件拷貝程序為例，我們可以為數(shù)據(jù)源創(chuàng)建一個只讀數(shù)據(jù)流，示例如下：

復(fù)制代碼代碼如下:

 var rs = fs.createReadStream(pathname);

 rs.on('data', function (chunk) {

     doSomething(chunk) ; // 具體細節(jié)自己任意發(fā)揮

 });

 rs.on('end', function () {

     cleanUp() ;

 }) ;

代碼中data事件會源源不斷地被觸發(fā)，不管doSomething函數(shù)是否處理得過來。代碼可以繼續(xù)做如下改造，以解決這個問題。

復(fù)制代碼代碼如下:

 var rs = fs.createReadStream(src) ;

 rs.on('data', function (chunk) {

     rs.pause() ;

     doSomething(chunk, function () {

         rs.resume() ;

     }) ;

 }) ;

 rs.on('end', function () {

     cleanUp();

 })  ;

給doSomething函數(shù)加上了回調(diào)，因此我們可以在處理數(shù)據(jù)前暫停數(shù)據(jù)讀取，并在處理數(shù)據(jù)后繼續(xù)讀取數(shù)據(jù)。

此外，我們也可以為數(shù)據(jù)目標創(chuàng)建一個只寫數(shù)據(jù)流，如下：

復(fù)制代碼代碼如下:

 var rs = fs.createReadStream(src) ;

 var ws = fs.createWriteStream(dst) ;

 rs.on('data', function (chunk) {

     ws.write(chunk);

 }) ;

 rs.on('end', function () {

     ws.end();

 }) ;

doSomething換成了往只寫數(shù)據(jù)流里寫入數(shù)據(jù)后，以上代碼看起來就像是一個文件拷貝程序了。但是以上代碼存在上邊提到的問題，如果寫入速度跟不上讀取速度的話，只寫數(shù)據(jù)流內(nèi)部的緩存會爆倉。我們可以根據(jù).write方法的返回值來判斷傳入的數(shù)據(jù)是寫入目標了，還是臨時放在了緩存了，并根據(jù)drain事件來判斷什么時候只寫數(shù)據(jù)流已經(jīng)將緩存中的數(shù)據(jù)寫入目標，可以傳入下一個待寫數(shù)據(jù)了。因此代碼如下：

復(fù)制代碼代碼如下:

 var rs = fs.createReadStream(src) ;

 var ws = fs.createWriteStream(dst) ;

 rs.on('data', function (chunk) {

     if (ws.write(chunk) === false) {

         rs.pause() ;

     }

 }) ;

 rs.on('end', function () {

     ws.end();

 });

 ws.on('drain', function () {

     rs.resume();

 }) ;

最終實現(xiàn)了數(shù)據(jù)從只讀數(shù)據(jù)流到只寫數(shù)據(jù)流的搬運，并包括了防爆倉控制。因為這種使用場景很多，例如上邊的大文件拷貝程序，NodeJS直接提供了.pipe方法來做這件事情，其內(nèi)部實現(xiàn)方式與上邊的代碼類似。

下面是一個更加完整的復(fù)制文件的過程：

復(fù)制代碼代碼如下:

var fs = require('fs'),

  path = require('path'),

  out = process.stdout;

var filePath = '/bb/bigbear.mkv';

var readStream = fs.createReadStream(filePath);

var writeStream = fs.createWriteStream('file.mkv');

var stat = fs.statSync(filePath);

var totalSize = stat.size;

var passedLength = 0;

var lastSize = 0;

var startTime = Date.now();

readStream.on('data', function(chunk) {

  passedLength += chunk.length;

  if (writeStream.write(chunk) === false) {

    readStream.pause();

  }

});

readStream.on('end', function() {

  writeStream.end();

});

writeStream.on('drain', function() {

  readStream.resume();

});

setTimeout(function show() {

  var percent = Math.ceil((passedLength / totalSize) * 100);

  var size = Math.ceil(passedLength / 1000000);

  var diff = size - lastSize;

  lastSize = size;

  out.clearLine();

  out.cursorTo(0);

  out.write('已完成' + size + 'MB, ' + percent + '%, 速度：' + diff * 2 + 'MB/s');

  if (passedLength < totalSize) {

    setTimeout(show, 500);

  } else {

    var endTime = Date.now();

    console.log();

    console.log('共用時：' + (endTime - startTime) / 1000 + '秒。');

  }

}, 500);