基于nodejs 的多頁面爬蟲實(shí)例代碼

更新時(shí)間：2017年05月31日 09:24:15 作者：藍(lán)色的秋風(fēng)

本篇文章主要介紹了基于nodejs 的多頁面爬蟲，小編覺得挺不錯(cuò)的，現(xiàn)在分享給大家，也給大家做個(gè)參考。一起跟隨小編過來看看吧

前言

前端時(shí)間再回顧了一下node.js，于是順勢做了一個(gè)爬蟲來加深自己對node的理解。

主要用的到是request，cheerio，async三個(gè)模塊

request

用于請求地址和快速下載圖片流。 https://github.com/request/request

cheerio

為服務(wù)器特別定制的，快速、靈活、實(shí)施的jQuery核心實(shí)現(xiàn).

便于解析html代碼。 https://www.npmjs.com/package/cheerio

async

異步調(diào)用，防止堵塞。 http://caolan.github.io/async/

核心思路

用request 發(fā)送一個(gè)請求。獲取html代碼，取得其中的img標(biāo)簽和a標(biāo)簽。
通過獲取的a表情進(jìn)行遞歸調(diào)用。不斷獲取img地址和a地址，繼續(xù)遞歸
獲取img地址通過request(photo).pipe(fs.createWriteStream(dir + “/” + filename));進(jìn)行快速下載。

function requestall(url) {

 request({

  uri: url,

  headers: setting.header

 }, function (error, response, body) {

  if (error) {

   console.log(error);

  } else {

   console.log(response.statusCode);

   if (!error && response.statusCode == 200) {

    var $ = cheerio.load(body);

    var photos = [];

    $('img').each(function () {

     // 判斷地址是否存在

     if ($(this).attr('src')) {

      var src = $(this).attr('src');

      var end = src.substr(-4, 4).toLowerCase();

      if (end == '.jpg' || end == '.png' || end == '.jpeg') {

       if (IsURL(src)) {

        photos.push(src);

       }

      }

     }

    });

    downloadImg(photos, dir, setting.download_v);

    // 遞歸爬蟲

    $('a').each(function () {

     var murl = $(this).attr('href');

     if (IsURL(murl)) {

      setTimeout(function () {

       fetchre(murl);

      }, timeout);

      timeout += setting.ajax_timeout;

     } else {

      setTimeout(function () {

       fetchre("http://www.ivsky.com/" + murl);

      }, timeout);

      timeout += setting.ajax_timeout;

     }

    })

   }

  }

 });

}

防坑

1.在request通過圖片地址下載時(shí)，綁定error事件防止爬蟲異常的中斷。

2.通過async的mapLimit限制并發(fā)。

3.加入請求報(bào)頭，防止ip被屏蔽。

4.獲取一些圖片和超鏈接地址，可能是相對路徑（待考慮解決是否有通過方法）。

function downloadImg(photos, dir, asyncNum) {

 console.log("即將異步并發(fā)下載圖片，當(dāng)前并發(fā)數(shù)為:" + asyncNum);

 async.mapLimit(photos, asyncNum, function (photo, callback) {

  var filename = (new Date().getTime()) + photo.substr(-4, 4);

  if (filename) {

   console.log('正在下載' + photo);

   // 默認(rèn)

   // fs.createWriteStream(dir + "/" + filename)

   // 防止pipe錯(cuò)誤

   request(photo)

    .on('error', function (err) {

     console.log(err);

    })

    .pipe(fs.createWriteStream(dir + "/" + filename));

   console.log('下載完成');

   callback(null, filename);

  }

 }, function (err, result) {

  if (err) {

   console.log(err);

  } else {

   console.log(" all right ! ");

   console.log(result);

  }

 })

}

測試：