nodejs中sleep功能實現(xiàn)暫停幾秒的方法
我在網(wǎng)上了解了一下nodejs中sleep功能,搜索了很多關于nodejs中sleep功能介紹,下面我來記錄一下,有需要了解的朋友可參考。希望此文章對各位有所幫助。
一 背景
在使用nodejs爬蟲的時候,經(jīng)常會遇到別人的網(wǎng)站對頻率的反爬機制,這個時候如果不做處理程序就會掛掉,重新啟動也會繼續(xù)被屏蔽.這個問題怎么解決呢,我的想法就是程序暫停10分鐘或者更長的時間,繼續(xù)爬取.
二 方法
其實使用setTimeout就可以實現(xiàn),只是nodejs異步已經(jīng)很金字塔了,再加一層會更恐怖,所以本文使用nodejs的第三方模塊async來實現(xiàn),async的目的就是讓多個異步的程序,按照開發(fā)者想要的順序來執(zhí)行,代碼書寫符合同步風格,其實運行還是異步的,也解決了回調(diào)金字塔的問題.
async基礎使用 :http://www.dbjr.com.cn/article/118526.htm
三 正常代碼
訪問3個網(wǎng)站,百度,優(yōu)酷,騰訊為例.不暫停的代碼.
var async = require('async'); var http = require('http'); var task = []; task.push(function(callback){ console.time('訪問3個網(wǎng)站時間統(tǒng)計'); http.get('http://www.baidu.com/', function(res) { console.log("百度訪問結果: " + res.statusCode); callback(null); }).on('error', function(e) { console.log("百度訪問結果: " + e.message); callback(e); }); }) task.push(function(callback){ http.get('http://www.youku.com/', function(res) { console.log("優(yōu)酷訪問結果: " + res.statusCode); callback(null); }).on('error', function(e) { console.log("優(yōu)酷訪問結果: " + e.message); callback(e); }); }) task.push(function(callback){ http.get('http://www.qq.com/', function(res) { console.log("騰訊訪問結果: " + res.statusCode); callback(null); }).on('error', function(e) { console.log("騰訊訪問結果: " + e.message); callback(e); }); }) async.waterfall(task, function(err,result){ console.timeEnd('訪問3個網(wǎng)站時間統(tǒng)計'); if(err) return console.log(err); console.log('全部訪問成功'); })
四 測試
執(zhí)行訪問網(wǎng)站需要時間,3個網(wǎng)站訪問時間統(tǒng)計254ms.
五 暫停代碼
比如,訪問第一個網(wǎng)站后暫停5秒,訪問第二個網(wǎng)站后暫停10秒.
var async = require('async'); var http = require('http'); var task = []; task.push(function(callback){ console.time('訪問3個網(wǎng)站時間統(tǒng)計'); http.get('http://www.baidu.com/', function(res) { console.log("百度訪問結果: " + res.statusCode); setTimeout(function() { callback(null); }, 5000); }).on('error', function(e) { console.log("百度訪問結果: " + e.message); callback(e); }); }) task.push(function(callback){ http.get('http://www.youku.com/', function(res) { console.log("優(yōu)酷訪問結果: " + res.statusCode); setTimeout(function() { callback(null); }, 10000); }).on('error', function(e) { console.log("優(yōu)酷訪問結果: " + e.message); callback(e); }); }) task.push(function(callback){ http.get('http://www.qq.com/', function(res) { console.log("騰訊訪問結果: " + res.statusCode); callback(null); }).on('error', function(e) { console.log("騰訊訪問結果: " + e.message); callback(e); }); }) async.waterfall(task, function(err,result){ console.timeEnd('訪問3個網(wǎng)站時間統(tǒng)計'); if(err) return console.log(err); console.log('全部訪問成功'); })
六 測試
從打印中能看得出,訪問第二個網(wǎng)站等待了5秒,訪問第三個網(wǎng)站等待了10秒.OK!
以上就是本文的全部內(nèi)容,希望對大家的學習有所幫助,也希望大家多多支持腳本之家。
相關文章
詳解Node.js amqplib 連接 Rabbit MQ最佳實踐
這篇文章主要介紹了詳解Node.js amqplib 連接 Rabbit MQ最佳實踐,小編覺得挺不錯的,現(xiàn)在分享給大家,也給大家做個參考。一起跟隨小編過來看看吧2019-01-01Node.JS循環(huán)刪除非空文件夾及子目錄下的所有文件
這篇文章主要介紹了Node.JS循環(huán)刪除非空文件夾及子目錄下的所有文件及node.js遞歸刪除非空文件夾的實例代碼,需要的朋友可以參考下2018-03-03nodejs開發(fā)微信小程序?qū)崿F(xiàn)密碼加密
本文給大家分享的是在使用nodejs開發(fā)微信小程序的過程中,實現(xiàn)密碼加密的示例代碼,非常簡單,有需要的小伙伴可以參考下2017-07-07關于Sequelize連接查詢時inlude中model和association的區(qū)別詳解
這篇文章主要介紹了關于Sequelize連接查詢時inlude中model與association的區(qū)別,文中介紹的很詳細,需要的朋友可以參考借鑒,下面來一起看看吧。2017-02-02Nodejs在局域網(wǎng)配置https訪問的實現(xiàn)方法
做一個局域網(wǎng)WebRTC視頻聊天系統(tǒng),需要用到HTTPS。因此,配置Node.js使其支持HTTPS訪問。這篇文章主要介紹了Nodejs在局域網(wǎng)配置https訪問的實現(xiàn)方法,需要的朋友可以參考下2020-10-10NodeJS和BootStrap分頁效果的實現(xiàn)代碼
這篇文章主要介紹了NodeJS和BootStrap分頁效果的實現(xiàn)代碼的相關資料,非常不錯具有參考借鑒價值,需要的朋友可以參考下2016-11-11初學者如何快速搭建Express開發(fā)系統(tǒng)步驟詳解
這篇文章主要介紹了初學者如何快速搭建Express開發(fā)系統(tǒng),結合實例形式詳細分析了express框架搭建的具體步驟與相關注意事項,需要的朋友可以參考下2023-05-05node koa2實現(xiàn)上傳圖片并且同步上傳到七牛云存儲
這篇文章主要介紹了node koa2實現(xiàn)上傳圖片并且同步上傳到七牛云存儲,具有一定的參考價值,感興趣的小伙伴們可以參考一下2017-07-07