Java內(nèi)存模型JMM詳解
Java Memory Model簡稱JMM, 是一系列的Java虛擬機平臺對開發(fā)者提供的多線程環(huán)境下的內(nèi)存可見性、是否可以重排序等問題的無關(guān)具體平臺的統(tǒng)一的保證。(可能在術(shù)語上與Java運行時內(nèi)存分布有歧義,后者指堆、方法區(qū)、線程棧等內(nèi)存區(qū)域)。
并發(fā)編程有多種風(fēng)格,除了CSP(通信順序進程)、Actor等模型外,大家最熟悉的應(yīng)該是基于線程和鎖的共享內(nèi)存模型了。在多線程編程中,需要注意三類并發(fā)問題:
·原子性
·可見性
·重排序
原子性涉及到,一個線程執(zhí)行一個復(fù)合操作的時候,其他線程是否能夠看到中間的狀態(tài)、或進行干擾。典型的就是i++的問題了,兩個線程同時對共享的堆內(nèi)存執(zhí)行++操作,而++操作在JVM、運行時、CPU中的實現(xiàn)都可能是一個復(fù)合操作, 例如在JVM指令的角度來看是將i的值從堆內(nèi)存讀到操作數(shù)棧、加上一、再寫回到堆內(nèi)存的i,這幾個操作的期間,如果沒有正確的同步,其他線程也可以同時執(zhí)行,可能導(dǎo)致數(shù)據(jù)丟失等問題。常見的原子性問題又叫競太條件,是基于一個可能失效的結(jié)果進行判斷,如讀取-修改-寫入。 可見性和重排序問題都源于系統(tǒng)的優(yōu)化。
由于CPU的執(zhí)行速度和內(nèi)存的存取速度嚴重不匹配,為了優(yōu)化性能,基于時間局部性、空間局部性等局部性原理,CPU在和內(nèi)存間增加了多層高速緩存,當(dāng)需要取數(shù)據(jù)時,CPU會先到高速緩存中查找對應(yīng)的緩存是否存在,存在則直接返回,如果不存在則到內(nèi)存中取出并保存在高速緩存中?,F(xiàn)在多核處理器越基本已經(jīng)成為標配,這時每個處理器都有自己的緩存,這就涉及到了緩存一致性的問題,CPU有不同強弱的一致性模型,最強的一致性安全性最高,也符合我們的順序思考的模式,但是在性能上因為需要不同CPU之間的協(xié)調(diào)通信就會有很多開銷。
典型的CPU緩存結(jié)構(gòu)示意圖如下
CPU的指令周期通常為取指令、解析指令讀取數(shù)據(jù)、執(zhí)行指令、數(shù)據(jù)寫回寄存器或內(nèi)存。串行執(zhí)行指令時其中的讀取存儲數(shù)據(jù)部分占用時間較長,所以CPU普遍采取指令流水線的方式同時執(zhí)行多個指令, 提高整體吞吐率,就像工廠流水線一樣。
讀取數(shù)據(jù)和寫回數(shù)據(jù)到內(nèi)存相比執(zhí)行指令的速度不在一個數(shù)量級上,所以CPU使用寄存器、高速緩存作為緩存和緩沖,在從內(nèi)存中讀取數(shù)據(jù)時,會讀取一個緩存行(cache line)的數(shù)據(jù)(類似磁盤讀取讀取一個block)。數(shù)據(jù)寫回的模塊在舊數(shù)據(jù)沒有在緩存中的情況下會將存儲請求放入一個store buffer中繼續(xù)執(zhí)行指令周期的下一個階段,如果存在于緩存中則會更新緩存,緩存中的數(shù)據(jù)會根據(jù)一定策略flush到內(nèi)存。
public class MemoryModel { private int count; private boolean stop; public void initCountAndStop() { count = 1; stop = false; } public void doLoop() { while(!stop) { count++; } } public void printResult() { System.out.println(count); System.out.println(stop); } }
上面這段代碼執(zhí)行時我們可能認為count = 1會在stop = false前執(zhí)行完成,這在上面的CPU執(zhí)行圖中顯示的理想狀態(tài)下是正確的,但是要考慮上寄存器、緩存緩沖的時候就不正確了, 例如stop本身在緩存中但是count不在,則可能stop更新后再count的write buffer寫回之前刷新到了內(nèi)存。
另外CPU、編譯器(對于Java一般指JIT)都可能會修改指令執(zhí)行順序,例如上述代碼中count = 1和stop = false兩者并沒有依賴關(guān)系,所以CPU、編譯器都有可能修改這兩者的順序,而在單線程執(zhí)行的程序看來結(jié)果是一樣的,這也是CPU、編譯器要保證的as-if-serial(不管如何修改執(zhí)行順序,單線程的執(zhí)行結(jié)果不變)。由于很大部分程序執(zhí)行都是單線程的,所以這樣的優(yōu)化是可以接受并且?guī)砹溯^大的性能提升。但是在多線程的情況下,如果沒有進行必要的同步操作則可能會出現(xiàn)令人意想不到的結(jié)果。例如在線程T1執(zhí)行完initCountAndStop方法后,線程T2執(zhí)行printResult,得到的可能是0, false, 可能是1, false, 也可能是0, true。如果線程T1先執(zhí)行doLoop(),線程T2一秒后執(zhí)行initCountAndStop, 則T1可能會跳出循環(huán)、也可能由于編譯器的優(yōu)化永遠無法看到stop的修改。
由于上述這些多線程情況下的各種問題,多線程中的程序順序已經(jīng)不是底層機制中的執(zhí)行順序和結(jié)果,編程語言需要給開發(fā)者一種保證,這個保證簡單來說就是一個線程的修改何時對其他線程可見,因此Java語言提出了JavaMemoryModel即Java內(nèi)存模型,對于Java語言、JVM、編譯器等實現(xiàn)者需要按照這個模型的約定來進行實現(xiàn)。Java提供了Volatile、synchronized、final等機制來幫助開發(fā)者保證多線程程序在所有處理器平臺上的正確性。
在JDK1.5之前,Java的內(nèi)存模型有著嚴重的問題,例如在舊的內(nèi)存模型中,一個線程可能在構(gòu)造器執(zhí)行完成后看到一個final字段的默認值、volatile字段的寫入可能會和非volatile字段的讀寫重排序。
所以在JDK1.5中,通過JSR133提出了新的內(nèi)存模型,修復(fù)之前出現(xiàn)的問題。
重排序規(guī)則
volatile和監(jiān)視器鎖
是否可以重排序 | 第二個操作 | 第二個操作 | 第二個操作 |
---|---|---|---|
第一個操作 | 普通讀/普通寫 | volatile讀/monitor enter | volatile寫/monitor exit |
普通讀/普通寫 | No | ||
voaltile讀/monitor enter | No | No | No |
volatile寫/monitor exit | No | No |
其中普通讀指getfield, getstatic, 非volatile數(shù)組的arrayload, 普通寫指putfield, putstatic, 非volatile數(shù)組的arraystore。
volatile讀寫分別是volatile字段的getfield, getstatic和putfield, putstatic。
monitorenter是進入同步塊或同步方法,monitorexist指退出同步塊或同步方法。
上述表格中的No指先后兩個操作不允許重排序,如(普通寫, volatile寫)指非volatile字段的寫入不能和之后任意的volatile字段的寫入重排序。當(dāng)沒有No時,說明重排序是允許的,但是JVM需要保證最小安全性-讀取的值要么是默認值,要么是其他線程寫入的(64位的double和long讀寫操作是個特例,當(dāng)沒有volatile修飾時,并不能保證讀寫是原子的,底層可能將其拆分為兩個單獨的操作)。
final字段
final字段有兩個額外的特殊規(guī)則
final字段的寫入(在構(gòu)造器中進行)以及final字段對象本身的引用的寫入都不能和后續(xù)的(構(gòu)造器外的)持有該final字段的對象的寫入重排序。例如, 下面的語句是不能重排序的
x.finalField = v; ...; sharedRef = x;
final字段的第一次加載不能和持有這個final字段的對象的寫入重排序,例如下面的語句是不允許重排序的
x = sharedRef; ...; i = x.finalField
內(nèi)存屏障
處理器都支持一定的內(nèi)存屏障(memory barrier)或柵欄(fence)來控制重排序和數(shù)據(jù)在不同的處理器間的可見性。例如,CPU將數(shù)據(jù)寫回時,會將store請求放入write buffer中等待flush到內(nèi)存,可以通過插入barrier的方式防止這個store請求與其他的請求重排序、保證數(shù)據(jù)的可見性。可以用一個生活中的例子類比屏障,例如坐地鐵的斜坡式電梯時,大家按順序進入電梯,但是會有一些人從左側(cè)繞過去,這樣出電梯時順序就不相同了,如果有一個人攜帶了一個大的行李堵住了(屏障),則后面的人就不能繞過去了:)。另外這里的barrier和GC中用到的write barrier是不同的概念。
內(nèi)存屏障的分類
幾乎所有的處理器都支持一定粗粒度的barrier指令,通常叫做Fence(柵欄、圍墻),能夠保證在fence之前發(fā)起的load和store指令都能嚴格的和fence之后的load和store保持有序。通常按照用途會分為下面四種barrier
LoadLoad Barriers
Load1; LoadLoad; Load2;
保證Load1的數(shù)據(jù)在Load2及之后的load前加載
StoreStore Barriers
Store1; StoreStore; Store2
保證Store1的數(shù)據(jù)先于Store2及之后的數(shù)據(jù) 在其他處理器可見
LoadStore Barriers
Load1; LoadStore; Store2
保證Load1的數(shù)據(jù)的加載在Store2和之后的數(shù)據(jù)flush前
StoreLoad Barriers
Store1; StoreLoad; Load2
保證Store1的數(shù)據(jù)在其他處理器前可見(如flush到內(nèi)存)先于Load2和之后的load的數(shù)據(jù)的加載。StoreLoad Barrier能夠防止load讀取到舊數(shù)據(jù)而不是最近其他處理器寫入的數(shù)據(jù)。
幾乎近代的所有的多處理器都需要StoreLoad,StoreLoad的開銷通常是最大的,并且StoreLoad具有其他三種屏障的效果,所以StoreLoad可以當(dāng)做一個通用的(但是更高開銷的)屏障。
所以,利用上述的內(nèi)存屏障,可以實現(xiàn)上面表格中的重排序規(guī)則
需要的屏障 | 第二個操作 | 第二個操作 | 第二個操作 | 第二個操作 |
---|---|---|---|---|
第一個操作 | 普通讀 | 普通寫 | volatile讀/monitor enter | volatile寫/monitor exit |
普通讀 | LoadStore | |||
普通讀 | StoreStore | |||
voaltile讀/monitor enter | LoadLoad | LoadStore | LoadLoad | LoadStore |
volatile寫/monitor exit | StoreLoad | StoreStore |
為了支持final字段的規(guī)則,需要對final的寫入增加barrier
x.finalField = v; StoreStore; sharedRef = x;
插入內(nèi)存屏障
基于上面的規(guī)則,可以在volatile字段、synchronized關(guān)鍵字的處理上增加屏障來滿足內(nèi)存模型的規(guī)則
volatile store前插入StoreStore屏障
所有final字段寫入后但在構(gòu)造器返回前插入StoreStore
volatile store后插入StoreLoad屏障
在volatile load后插入LoadLoad和LoadStore屏障
monitor enter和volatile load規(guī)則一致,monitor exit 和volatile store規(guī)則一致。
HappenBefore
前面提到的各種內(nèi)存屏障對應(yīng)開發(fā)者來說還是比較復(fù)雜底層,因此JMM又可以使用一系列HappenBefore的偏序關(guān)系的規(guī)則方式來說明,要想保證執(zhí)行操作B的線程看到操作A的結(jié)果(無論A和B是否在同一個線程中執(zhí)行), 那么在A和B之間必須要滿足HappenBefore關(guān)系,否則JVM可以對它們?nèi)我庵嘏判颉?/p>
HappenBefore規(guī)則列表
HappendBefore規(guī)則包括
程序順序規(guī)則: 如果程序中操作A在操作B之前,那么同一個線程中操作A將在操作B之前進行
監(jiān)視器鎖規(guī)則: 在監(jiān)視器鎖上的鎖操作必須在同一個監(jiān)視器鎖上的加鎖操作之前執(zhí)行
volatile變量規(guī)則: volatile變量的寫入操作必須在該變量的讀操作之前執(zhí)行
線程啟動規(guī)則: 在線程上對Thread.start的調(diào)用必須在該線程中執(zhí)行任何操作之前執(zhí)行
線程結(jié)束規(guī)則: 線程中的任何操作都必須在其他線程檢測到該線程已經(jīng)結(jié)束之前執(zhí)行
中斷規(guī)則: 當(dāng)一個線程在另一個線程上調(diào)用interrupt時,必須在被中斷線程檢測到interrupt之前執(zhí)行
傳遞性: 如果操作A在操作B之前執(zhí)行,并且操作B在操作C之前執(zhí)行,那么操作A在操作C之前執(zhí)行。
其中顯示鎖與監(jiān)視器鎖有相同的內(nèi)存語義,原子變量與volatile有相同的內(nèi)存語義。鎖的獲取和釋放、volatile變量的讀取和寫入操作滿足全序關(guān)系,所以可以使用volatile的寫入在后續(xù)的volatile的讀取之前進行。
可以利用上述HappenBefore的多個規(guī)則進行組合。
例如線程A進入監(jiān)視器鎖后,在釋放監(jiān)視器鎖之前的操作根據(jù)程序順序規(guī)則HappenBefore于監(jiān)視器釋放操作,而監(jiān)視器釋放操作HappenBefore于后續(xù)的線程B的對相同監(jiān)視器鎖的獲取操作,獲取操作HappenBefore與線程B中的操作。
總結(jié)
以上就是本文關(guān)于Java內(nèi)存模型JMM詳解的全部內(nèi)容,希望對大家有所幫助。如有不足之處,歡迎留言指出。感謝朋友們對本站的支持!
- 淺析Java內(nèi)存模型與垃圾回收
- Java 高并發(fā)三:Java內(nèi)存模型和線程安全詳解
- 在Java內(nèi)存模型中測試并發(fā)程序代碼
- Java8內(nèi)存模型PermGen Metaspace實例解析
- Java內(nèi)存模型與JVM運行時數(shù)據(jù)區(qū)的區(qū)別詳解
- Java內(nèi)存區(qū)域和內(nèi)存模型講解
- Java內(nèi)存模型之happens-before概念詳解
- Java內(nèi)存模型(JMM)及happens-before原理
- 細談java同步之JMM(Java Memory Model)
- 學(xué)習(xí)Java內(nèi)存模型JMM心得
- JAVA內(nèi)存模型(JMM)詳解
相關(guān)文章
詳解SpringBoot 快速整合MyBatis(去XML化)
本篇文章主要介紹了詳解SpringBoot 快速整合MyBatis(去XML化),非常具有實用價值,需要的朋友可以參考下2017-10-10Java實現(xiàn)數(shù)字轉(zhuǎn)成英文的方法
這篇文章主要介紹了Java實現(xiàn)數(shù)字轉(zhuǎn)成英文的方法,涉及java數(shù)組與字符串的相關(guān)操作技巧,需要的朋友可以參考下2015-05-05JVM內(nèi)存結(jié)構(gòu):程序計數(shù)器、虛擬機棧、本地方法棧
JVM 基本上是每家招聘公司都會問到的問題,它們會這么無聊問這些不切實際的問題嗎?很顯然不是。由 JVM 引發(fā)的故障問題,無論在我們開發(fā)過程中還是生產(chǎn)環(huán)境下都是非常常見的2021-06-06Java如何替換RequestBody和RequestParam參數(shù)的屬性
近期由于接手的老項目中存在所有接口中新增一個加密串來給接口做一個加密效果,所以就研究了一下Http請求鏈路,發(fā)現(xiàn)可以通過?javax.servlet.Filter去實現(xiàn),這篇文章主要介紹了Java替換RequestBody和RequestParam參數(shù)的屬性,需要的朋友可以參考下2023-10-10MyBatisPlus使用${ew.customSqlSegment}別名問題解決
在使用MyBatisPlus進行連表查詢時,可能遇到因${ew.customSqlSegment}無法加別名的問題,本文就來介紹一下如何解決,感興趣的可以了解一下2024-10-10