.net?core中高效的動態(tài)內(nèi)存管理方案
.net core在新增的System.Buffers中引入了一大堆高效內(nèi)存管理的類,如span和memory、內(nèi)存池。本文今天這里介紹一個高效動態(tài)內(nèi)存訪問方案。
ReadOnlySequenceSegment<T>
在我們讀取數(shù)據(jù)的過程,很多時候會出現(xiàn)如下場景:
不知道數(shù)據(jù)實際大小
一次性申請大量內(nèi)存開銷太大
此時我們往往會使用動態(tài)內(nèi)存的方案,通過鏈表的方式串聯(lián)起來,從而形成邏輯意義上的數(shù)據(jù)流。如下圖所示:
ReadOnlySequenceSegment<T>就是這樣一個表示數(shù)據(jù)流節(jié)點的內(nèi)存模型,它是一個抽象類,包含如下三個元素:
Memory:指向所包含的內(nèi)存
Next:指向下一個節(jié)點
RunningIndex:標(biāo)志當(dāng)前節(jié)點在整個流的位置
其中Memory和Next還比較容易理解,典型的鏈表結(jié)構(gòu)。主要難理解的是RunningIndex,他表示該節(jié)點在數(shù)據(jù)流中的Memory起始索引。
一般的來講,某節(jié)點的RunningIndex為其上一個節(jié)點的RunningIndex + Memory.Length。加上RunningIndex估計主要是為了快速索引的。
例如:對于如下3快內(nèi)存 100byte, 200byte, 300byte組成的鏈表,其RunningIndex分別是0, 100, 200。
另外,在實際的使用過程中,往往是不停的釋放鏈表頭部的節(jié)點,并且在尾部添加新節(jié)點。 RunningIndex表示的索引一般是邏輯意義上的索引,在釋放頭節(jié)點時,一般不用更新其子節(jié)點以及后續(xù)節(jié)點的RunningIndex。
ReadOnlySequence<T>
ReadOnlySequenceSegment<T>雖然能解決我們的動態(tài)內(nèi)存的申請和釋放問題,但它往往并不好用,因為很容易出現(xiàn)一段連續(xù)的數(shù)據(jù)被分割在多個節(jié)點的情況,在這段不連續(xù)的數(shù)據(jù)里進(jìn)行查詢是非常不便的。
為了解決這個問題,.net core中推出了一個視圖類ReadOnlySequence<T>
ReadOnlySequence<T>由兩個屬性標(biāo)記:
Start: 起始SequenceSegment以及起始索引
End: 結(jié)尾SequenceSegment以及結(jié)尾索引
可以通過foreach遍歷各節(jié)點的Memory
var seq = new ReadOnlySequence<byte>(); foreach (ReadOnlyMemory<byte> memory in seq) { }
ReadOnlySequence的主要優(yōu)勢在于,它可以看成一段邏輯意義上的連續(xù)內(nèi)存,常用的函數(shù)有:
Slice:對視圖數(shù)據(jù)切片
PositionOf:查詢元素的縮影
ToArray:轉(zhuǎn)換成數(shù)組
其中的ToArray涉及到大量的數(shù)據(jù)拷貝,需要謹(jǐn)慎使用。
另外.net core 3.0中還內(nèi)置了一個SequenceReader,用起來是十分方便的:
private static ReadOnlySpan<byte> CRLF => new byte[] { (byte)'\r', (byte)'\n' }; public static void ReadLines(ReadOnlySequence<byte> sequence) { SequenceReader<byte> reader = new SequenceReader<byte>(sequence); while (!reader.End) { if (!reader.TryReadToAny(out ReadOnlySpan<byte> line, CRLF, advancePastDelimiter: false)) { // Couldn't find another delimiter // ... } if (!reader.IsNext(CRLF, advancePast: true)) { // Not a good CR/LF pair // ... } // line is valid, process ProcessLine(line); } }
如何使用
用過System.IO.Pipelines的朋友就知道,ReadOnlySequence在該庫中是非常好用的。但如果我們想創(chuàng)建一個ReadOnlySequence,發(fā)現(xiàn)并不是那么容易,因為:
ReadOnlySequence依賴于ReadOnlySequenceSegment
ReadOnlySequenceSegment是抽象類,需要自己繼承
也就是說我們需要自己實現(xiàn)ReadOnlySequenceSegment<T>,然后再將其封裝到ReadOnlySequence中,目前.net core中并沒有內(nèi)置實現(xiàn)可能是因為在高效內(nèi)存管理的方案中并沒有什么通用的解決方案吧。
如果我們要自己實現(xiàn)ReadOnlySequence,一般需要如下幾個步驟:
繼承ReadOnlySequenceSegment類,實現(xiàn)自己的SequenceSegment
在申請內(nèi)存過程中,創(chuàng)建SequenceSegment,并將其掛成鏈表
使用數(shù)據(jù)時,在該鏈表中創(chuàng)建ReadOnlySequence
當(dāng)SequenceSegment節(jié)點的內(nèi)存使用完成的時候,從鏈表中接觸該節(jié)點,并釋放內(nèi)存。
簡單來說就是如下幾種操作:
數(shù)據(jù)讀?。?創(chuàng)建SequenceSegment
數(shù)據(jù)使用: 在SequenceSegment鏈表上創(chuàng)建ReadOnlySequence
使用完成: 釋放SequenceSegment
如果要更進(jìn)一步優(yōu)化,在SequenceSegment中的內(nèi)存申請和釋放可以使用內(nèi)存池。
到此這篇關(guān)于.net core動態(tài)內(nèi)存管理方案的文章就介紹到這了。希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
Asp.Net 生成靜態(tài)頁并實現(xiàn)分頁效果
Asp.Net 生成靜態(tài)頁并實現(xiàn)分頁效果的代碼,需要的朋友可以參考下。2010-04-04.NET或.NET Core Web APi基于tus協(xié)議實現(xiàn)斷點續(xù)傳的示例
這篇文章主要介紹了.NET或.NET Core Web APi基于tus協(xié)議實現(xiàn)斷點續(xù)傳的示例,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-11-11深入本機(jī)影像生成器(Ngen.exe)工具使用方法詳解
本篇文章是對本機(jī)影像生成器(Ngen.exe)工具使用方法進(jìn)行了詳細(xì)的分析介紹,需要的朋友參考下2013-05-05Json數(shù)據(jù)轉(zhuǎn)換list對象實現(xiàn)思路及代碼
本文為大家詳細(xì)介紹下Json數(shù)據(jù)轉(zhuǎn)換list對象的具體實現(xiàn),感興趣的朋友可以參考下哈,希望對你有所幫助2013-04-04