nodeJs內(nèi)存泄漏問(wèn)題詳解
之前一次偶然機(jī)會(huì)發(fā)現(xiàn),react 在server渲染時(shí),當(dāng)NODE_ENV != production時(shí),會(huì)導(dǎo)致內(nèi)存泄漏。具體issues: https://github.com/facebook/react/issues/7406 。隨著node,react同構(gòu)等技術(shù)地廣泛運(yùn)用,node端內(nèi)存泄漏等問(wèn)題應(yīng)該引起我們的重視。為什么node容易出現(xiàn)內(nèi)存泄漏以及出現(xiàn)之后應(yīng)該如何排查,下面通過(guò)一個(gè)簡(jiǎn)單的介紹以及例子來(lái)說(shuō)明。
首先,node是基于v8引擎基礎(chǔ)上,其內(nèi)存管理方式與v8一致。下面簡(jiǎn)單介紹v8的相關(guān)內(nèi)存特效。
V8內(nèi)存限制
node基于V8構(gòu)建,通過(guò)V8的方式進(jìn)行分配跟管理js對(duì)象。V8對(duì)內(nèi)存的使用有限制(老生代內(nèi)存64位系統(tǒng)下約為1.4G,32位系統(tǒng)下約為0.7G,新生代內(nèi)存64位系統(tǒng)下約為32MB,32系統(tǒng)下約為16MB)。在這樣的限制下,將導(dǎo)致無(wú)法操作大內(nèi)存對(duì)象。如果不小心觸碰這個(gè)界限,就會(huì)造成進(jìn)程退出。
原因:V8在執(zhí)行垃圾回收時(shí)會(huì)阻塞JavaScript應(yīng)用邏輯,直到垃圾回收結(jié)束再重新執(zhí)行JavaScript應(yīng)用邏輯,這種行為被稱為“全停頓”(stop-the-world)。若V8的堆內(nèi)存為1.5GB,V8做一次小的垃圾回收需要50ms以上,做一次非增量式的垃圾回收甚至要1秒以上。
通過(guò)node --max-old-space-size=xxx(單位MB) , node --max-new-space-size=xxx(單位KB) 設(shè)置新生代內(nèi)存以及老生代內(nèi)存來(lái)破解默認(rèn)的內(nèi)存限制。
V8的堆構(gòu)成
V8的堆其實(shí)并不只是由老生代和新生代兩部分構(gòu)成,可以將堆分為幾個(gè)不同的區(qū)域:
- 新生代內(nèi)存區(qū):大多數(shù)的對(duì)象被分配在這里,這個(gè)區(qū)域很小但是垃圾回特別頻繁
- 老生代指針區(qū):屬于老生代,這里包含了大多數(shù)可能存在指向其他對(duì)象的指針的對(duì)象,大多數(shù)從新生代晉升的對(duì)象會(huì)被移動(dòng)到這里
- 老生代數(shù)據(jù)區(qū):屬于老生代,這里只保存原始數(shù)據(jù)對(duì)象,這些對(duì)象沒(méi)有指向其他對(duì)象的指針
- 大對(duì)象區(qū):這里存放體積超越其他區(qū)大小的對(duì)象,每個(gè)對(duì)象有自己的內(nèi)存,垃圾回收其不會(huì)移動(dòng)大對(duì)象
- 代碼區(qū):代碼對(duì)象,也就是包含JIT之后指令的對(duì)象,會(huì)被分配在這里。唯一擁有執(zhí)行權(quán)限的內(nèi)存區(qū)
- Cell區(qū)、屬性Cell區(qū)、Map區(qū):存放Cell、屬性Cell和Map,每個(gè)區(qū)域都是存放相同大小的元素,結(jié)構(gòu)簡(jiǎn)單
GC回收類型
增量式GC
表示垃圾回收器在掃描內(nèi)存空間時(shí)是否收集(增加)垃圾并在掃描周期結(jié)束時(shí)清空垃圾。
非增量式GC
使用非增量式垃圾收集器時(shí),一收集到垃圾即將其清空。
垃圾回收器只會(huì)針對(duì)新生代內(nèi)存區(qū)、老生代指針區(qū)以及老生代數(shù)據(jù)區(qū)進(jìn)行垃圾回收。對(duì)象首先進(jìn)入占用空間較少的新生代內(nèi)存。大部分對(duì)象會(huì)很快失效,非增量GC直接回收這些少量?jī)?nèi)存。假如有些對(duì)象一段時(shí)間內(nèi)不能被回收,則進(jìn)去老生代內(nèi)存區(qū)。這個(gè)區(qū)域則執(zhí)行不頻繁的增量GC,且耗時(shí)較長(zhǎng)。
那什么時(shí)候才會(huì)導(dǎo)致內(nèi)存泄漏的發(fā)生呢?
內(nèi)存泄漏的途徑
- 內(nèi)存泄露
- 緩存
- 隊(duì)列消費(fèi)不及時(shí)
- 作用域未釋放
Node的內(nèi)存構(gòu)成主要是通過(guò)V8進(jìn)行分配的部分和Node自行分配的部分。受V8的垃圾回收限制的主要是V8的堆內(nèi)存。造成內(nèi)存泄漏的主要原因:1,緩存;2,隊(duì)列消費(fèi)不及時(shí);3,作用域未釋放
內(nèi)存泄漏分析
查看V8內(nèi)存使用情況(單位byte)
process.memoryUsage(); { ress: 47038464, heapTotal: 34264656, heapUsed: 2052866 }
ress:進(jìn)程的常駐內(nèi)存部分
heapTotal,heapUsed:V8堆內(nèi)存信息
查看系統(tǒng)內(nèi)存使用情況(單位byte)
os.totalmem()
os.freemem()
返回系統(tǒng)總內(nèi)存以及閑置內(nèi)存
查看垃圾回收日志
node --trace_gc -e "var a = []; for( var i = 0; i < 1000000; i++ ) { a.push(new Array(100)); }" >> gc.log //輸出垃圾回收日志
node --prof //輸出node執(zhí)行時(shí)性能日志。 使用windows-tick.processor查看。
分析監(jiān)控工具
v8-profiler 對(duì)v8堆內(nèi)存抓取快照和對(duì)cpu進(jìn)行分析
node-heapdump 對(duì)v8堆內(nèi)存抓取快照
node-mtrace 分析堆棧使用
node-memwatch 監(jiān)聽(tīng)垃圾回收情況
node-memwatch
memwatch.on('stats',function(info){ console.log(info) }) memwatch.on('leak',function(info){ console.log(info) })
stats事件:每次進(jìn)行全堆垃圾回收時(shí),將觸發(fā)一次stats事件。這個(gè)事件將會(huì)傳遞內(nèi)存統(tǒng)計(jì)信息。
{ "num_full_gc": 17, //第幾次全棧垃圾回收 "num_inc_gc": 8, //第幾次增量垃圾回收 "heap_compactions": 8, //第幾次對(duì)老生代進(jìn)行整理 "estimated_base": 2592568, //預(yù)估基數(shù) "current_base": 2592568, //當(dāng)前基數(shù) "min": 2499912, //最小 "max": 2592568, //最大 "usage_trend": 0 //使用趨勢(shì) }
觀察num_full_gc和num_inc_gc反映垃圾回收情況。
leak事件:如果經(jīng)過(guò)連續(xù)5次垃圾回收后,內(nèi)存仍然沒(méi)有被釋放,意味著內(nèi)存泄漏的發(fā)生。這個(gè)時(shí)候會(huì)觸發(fā)一個(gè)leak事件。
{ start: Fri, 29 Jun 2012 14:12:13 GMT, end: Fri, 29 Jun 2012 14:12:33 GMT, growth: 67984, reason: 'heap growth over 5 consecutive GCs (20s) - 11.67 mb/hr' }
Heap Diffing 堆內(nèi)存比較 排查內(nèi)存溢出代碼。
下面,我們通過(guò)一個(gè)例子來(lái)演示如何排查定位內(nèi)存泄漏:
首先我們創(chuàng)建一個(gè)導(dǎo)致內(nèi)存泄漏的例子:
//app.js var app = require('express')(); var http = require('http').Server(app); var heapdump = require('heapdump'); var leakobjs = []; function LeakClass(){ this.x = 1; } app.get('/', function(req, res){ console.log('get /'); for(var i = 0; i < 1000; i++){ leakobjs.push(new LeakClass()); } res.send('<h1>Hello world</h1>'); }); setInterval(function(){ heapdump.writeSnapshot('./' + Date.now() + '.heapsnapshot'); }, 3000); http.listen(3000, function(){ console.log('listening on port 3000'); });
這里我們通過(guò)設(shè)置一個(gè)不斷增加且不回被回收的數(shù)組,來(lái)模擬內(nèi)存泄漏。
通過(guò)使用heap-dump模塊來(lái)定時(shí)紀(jì)錄內(nèi)存快照,并通過(guò)chrome開(kāi)發(fā)者工具profiles來(lái)導(dǎo)入快照,對(duì)比分析。
我們可以看到,在瀏覽器訪問(wèn) localhost:3000 ,并多次刷新后,快照的大小一直在增長(zhǎng),且即使不請(qǐng)求,也沒(méi)有減小,說(shuō)明已經(jīng)發(fā)生了泄漏。
接著我們通過(guò)過(guò)chrome開(kāi)發(fā)者工具profiles, 導(dǎo)入快照。通過(guò)設(shè)置comparison,對(duì)比初始快照,發(fā)送請(qǐng)求,平穩(wěn),再發(fā)送請(qǐng)求這3個(gè)階段的內(nèi)存快照??梢园l(fā)現(xiàn)右側(cè)new中LeakClass一直增加。在delta中始終為正數(shù),說(shuō)明并沒(méi)有被回收。
小結(jié)
針對(duì)內(nèi)存泄漏可以采用植入memwatch,或者定時(shí)上報(bào)process.memoryUsage內(nèi)存使用率到monitor,并設(shè)置告警閥值進(jìn)行監(jiān)控。
當(dāng)發(fā)現(xiàn)內(nèi)存泄漏問(wèn)題時(shí),若允許情況下,可以在本地運(yùn)行node-heapdump,使用定時(shí)生成內(nèi)存快照。并把快照通過(guò)chrome Profiles分析泄漏原因。若無(wú)法本地調(diào)試,在測(cè)試服務(wù)器上使用v8-profiler輸出內(nèi)存快照比較分析json(需要代碼侵入)。
需要考慮在什么情況下開(kāi)啟memwatch/heapdump。考慮heapdump的頻度以免耗盡了CPU。 也可以考慮其他的方式來(lái)檢測(cè)內(nèi)存的增長(zhǎng),比如直接監(jiān)控process.memoryUsage()。
當(dāng)心誤判,短暫的內(nèi)存使用峰值表現(xiàn)得很像是內(nèi)存泄漏。如果你的app突然要占用大量的CPU和內(nèi)存,處理時(shí)間可能會(huì)跨越數(shù)個(gè)垃圾回收周期,那樣的話memwatch很有可能將之誤判為內(nèi)存泄漏。但是,這種情況下,一旦你的app使用完這些資源,內(nèi)存消耗就會(huì)降回正常的水平。所以需要注意的是持續(xù)報(bào)告的內(nèi)存泄漏,而可以忽略一兩次突發(fā)的警報(bào)。
相關(guān)文章
VsCode與Node.js知識(shí)點(diǎn)詳解
在本篇文章中小編給大家分享了關(guān)于VsCode與Node.js的相關(guān)知識(shí)點(diǎn)以及安裝等內(nèi)容,需要的朋友們可以參考下。2019-09-09我的Node.js學(xué)習(xí)之路(四)--單元測(cè)試
在專業(yè)化的軟件開(kāi)發(fā)過(guò)程中,無(wú)論什么平臺(tái)語(yǔ)言,現(xiàn)在都需要UnitTest單元測(cè)試. Node.js有built-in的Assert。 今天讓我們來(lái)看一下Node.js的單元測(cè)試。在這兒我們使用nodeunit2014-07-07node.js+express留言板功能實(shí)現(xiàn)示例
本文介紹基于nodejs+express+art-template的留言板功能。包含列表界面、添加界面和發(fā)送留言功能,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2021-09-09node.js中的buffer.Buffer.isBuffer方法使用說(shuō)明
這篇文章主要介紹了node.js中的buffer.Buffer.isBuffer方法使用說(shuō)明,本文介紹了buffer.Buffer.isBuffer的方法說(shuō)明、語(yǔ)法、接收參數(shù)、使用實(shí)例和實(shí)現(xiàn)源碼,需要的朋友可以參考下2014-12-12NodeJs通過(guò)async/await處理異步的方法
本篇文章主要介紹了NodeJs通過(guò)async/await處理異步的方法,小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2017-10-10node.js實(shí)現(xiàn)微信JS-API封裝接口的示例代碼
這篇文章主要介紹了node.js實(shí)現(xiàn)微信JS-API封裝接口的示例代碼,小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2017-09-09Node.js中的process.nextTick使用實(shí)例
這篇文章主要介紹了Node.js中的process.nextTick使用實(shí)例,nextTick函數(shù)有什么用、怎么用、和setTimeout有什么區(qū)別呢,本文就講解了這些知識(shí),需要的朋友可以參考下2015-06-06NodeJs實(shí)現(xiàn)定時(shí)任務(wù)的示例代碼
本篇文章主要介紹了NodeJs實(shí)現(xiàn)定時(shí)任務(wù)的示例代碼,小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2017-12-12