Java?協(xié)程?Quasar詳解
前言
在編程語言的這個(gè)圈子里,各種語言之間的對(duì)比似乎就一直就沒有停過,像什么古早時(shí)期的"PHP是世界上最好的語言"就不提了,最近我在摸魚的時(shí)候,看到不少文章都在說"Golang性能吊打Java"。作為一個(gè)寫了好幾年java的javaer,這我怎么能忍?于是在網(wǎng)上看了一些對(duì)比golang和java的文章,其中戳中java痛點(diǎn)、也是golang被吹上天的一條,就是對(duì)多線程并發(fā)的支持了。先看一段描述:
Go從語言層面原生支持并發(fā),并且使用簡單,Go語言中的并發(fā)基于輕量級(jí)線程Goroutine,創(chuàng)建成本很低,單個(gè)Go應(yīng)用也可以充分利用CPU多核,編寫高并發(fā)服務(wù)端軟件簡單,執(zhí)行性能好,很多情況下完全不需要考慮鎖機(jī)制以及由此帶來的各種問題。
看到這,我的心瞬間涼了大半截,真的是字字扎心。雖然說java里的JUC
包已經(jīng)幫我們封裝好了很多并發(fā)工具,但實(shí)際高并發(fā)的環(huán)境中我們還要考慮到各種鎖的使用,以及服務(wù)器性能瓶頸、限流熔斷等非常多方面的問題。
再說回go,前面提到的這個(gè)goroutine
究竟是什么東西?其實(shí),輕量級(jí)線程goroutine
也可以被稱為協(xié)程,得益于go中的調(diào)度器以及GMP模型,go程序會(huì)智能地將goroutine
中的任務(wù)合理地分配給每個(gè) CPU。
好了,其實(shí)上面說的這一大段我也不懂,都是向?qū)慻o的哥們兒請(qǐng)教來的,總之就是go的并發(fā)性能非常優(yōu)秀就是了。不過這都不是我們要說的重點(diǎn),今天我們要討論的是如何在Java中使用協(xié)程。
協(xié)程是什么?
我們知道,線程在阻塞狀態(tài)和可運(yùn)行狀態(tài)的切換,以及線程間的上下文切換都會(huì)造成性能的損耗。為了解決這些問題,引入?yún)f(xié)程coroutine
這一概念,就像在一個(gè)進(jìn)程中允許存在多個(gè)線程,在一個(gè)線程中,也可以存在多個(gè)協(xié)程。
那么,使用協(xié)程究竟有什么好處呢?
首先,執(zhí)行效率高。線程的切換由操作系統(tǒng)內(nèi)核執(zhí)行,消耗資源較多。而協(xié)程由程序控制,在用戶態(tài)執(zhí)行,不需要從用戶態(tài)切換到內(nèi)核態(tài),我們也可以理解為,協(xié)程是一種進(jìn)程自身來調(diào)度任務(wù)的調(diào)度模式,因此協(xié)程間的切換開銷遠(yuǎn)小于線程切換。
其次,節(jié)省資源。因?yàn)閰f(xié)程在本質(zhì)上是通過分時(shí)復(fù)用了一個(gè)單線程,因此能夠節(jié)省一定的資源。
類似于線程的五種狀態(tài)切換,協(xié)程間也存在狀態(tài)的切換,下面這張圖展示了協(xié)程調(diào)度器內(nèi)部任務(wù)的流轉(zhuǎn)。
綜合上面這些角度來看,和原生支持協(xié)程的go比起來,java在多線程并發(fā)上還真的是不堪一擊。但是,雖然在Java官方的jdk中不能直接使用協(xié)程,但是,有其他的開源框架借助動(dòng)態(tài)修改字節(jié)碼的方式實(shí)現(xiàn)了協(xié)程,就比如我們接下來要學(xué)習(xí)的Quasar。
Quasar使用
Quasar是一個(gè)開源的Java協(xié)程框架,通過利用Java instrument
技術(shù)對(duì)字節(jié)碼進(jìn)行修改,使方法掛起前后可以保存和恢復(fù)jvm棧幀,方法內(nèi)部已執(zhí)行到的字節(jié)碼位置也通過增加狀態(tài)機(jī)的方式記錄,在下次恢復(fù)執(zhí)行可直接跳轉(zhuǎn)至最新位置。
Quasar項(xiàng)目最后更新時(shí)間為2018年,版本停留在0.8.0
,但是我在直接使用這個(gè)版本時(shí)報(bào)了一個(gè)錯(cuò)誤:
這個(gè)錯(cuò)誤的大意就是這個(gè)class文件是使用的高版本jdk編譯的,所以你在低版本的jdk上當(dāng)然無法運(yùn)行了。這里major
版本號(hào)54對(duì)應(yīng)的是jdk10
,而我使用的是jdk8
,無奈降級(jí)試了一下低版本,果然0.7.10
可以使用:
<dependency> <groupId>co.paralleluniverse</groupId> <artifactId>quasar-core</artifactId> <version>0.7.10</version> </dependency>
在我們做好準(zhǔn)備工作后,下面就寫幾個(gè)例子來感受一下協(xié)程的魅力吧。
1、運(yùn)行時(shí)間
下面我們模擬一個(gè)簡單的場景,假設(shè)我們有一個(gè)任務(wù),平均執(zhí)行時(shí)間為1秒,分別測試一下使用線程和協(xié)程并發(fā)執(zhí)行10000次需要消耗多少時(shí)間。
先通過線程進(jìn)行調(diào)用,直接使用Executors
線程池:
public static void main(String[] args) throws InterruptedException { CountDownLatch countDownLatch=new CountDownLatch(10000); long start = System.currentTimeMillis(); ExecutorService executor= Executors.newCachedThreadPool(); for (int i = 0; i < 10000; i++) { executor.submit(() -> { try { TimeUnit.SECONDS.sleep(1); } catch (InterruptedException e) { e.printStackTrace(); } countDownLatch.countDown(); }); } countDownLatch.await(); long end = System.currentTimeMillis(); System.out.println("Thread use:"+(end-start)+" ms"); }
查看運(yùn)行時(shí)間:
好了,下面我們?cè)儆肣uasar中的協(xié)程跑一下和上面相同的流程。這里我們要使用的是Quasar中的Fiber
,它可以被翻譯為協(xié)程或纖程,創(chuàng)建Fiber
的類型主要可分為下面兩類:
public Fiber(String name, FiberScheduler scheduler, int stackSize, SuspendableRunnable target); public Fiber(String name, FiberScheduler scheduler, int stackSize, SuspendableCallable<V> target);
在Fiber
中可以運(yùn)行無返回值的SuspendableRunnable
或有返回值的SuspendableCallable
,看這個(gè)名字也知道區(qū)別就是java中的Runnable
和Callable
的區(qū)別了。其余參數(shù)都可以省略,name
為協(xié)程的名稱,scheduler
是調(diào)度器,默認(rèn)使用FiberForkJoinScheduler
,stackSize
指定用于保存fiber調(diào)用棧信息的stack
大小。
在下面的代碼中,使用了Fiber.sleep()
方法進(jìn)行協(xié)程的休眠,和Thread.sleep()
非常類似。
public static void main(String[] args) throws InterruptedException { CountDownLatch countDownLatch=new CountDownLatch(10000); long start = System.currentTimeMillis(); for (int i = 0; i < 10000; i++) { new Fiber<>(new SuspendableRunnable(){ @Override public Integer run() throws SuspendExecution, InterruptedException { Fiber.sleep(1000); countDownLatch.countDown(); } }).start(); } countDownLatch.await(); long end = System.currentTimeMillis(); System.out.println("Fiber use:"+(end-start)+" ms"); }
直接運(yùn)行,報(bào)了一個(gè)警告:
QUASAR WARNING: Quasar Java Agent isn't running. If you're using another instrumentation method you can ignore this message; otherwise, please refer to the Getting Started section in the Quasar documentation.
還記得我們前面說過的Quasar生效的原理是基于Java instrument
技術(shù)嗎,所以這里需要給它添加一個(gè)代理Agent。找到本地maven倉庫中已經(jīng)下好的jar包,在VM options
中添加參數(shù):
-javaagent:E:\Apache\maven-repository\co\paralleluniverse\quasar-core\0.7.10\quasar-core-0.7.10.jar
這次運(yùn)行時(shí)就沒有提示警告了,查看一下運(yùn)行時(shí)間:
運(yùn)行時(shí)間只有使用線程池時(shí)的一半多一點(diǎn),確實(shí)能大大縮短程序的效率。
2、內(nèi)存占用
在測試完運(yùn)行時(shí)間后,我們?cè)賮頊y試一下運(yùn)行內(nèi)存占用的對(duì)比。通過下面代碼嘗試在本地啟動(dòng)100萬個(gè)線程:
public static void main(String[] args) { for (int i = 0; i < 1000000; i++) { new Thread(() -> { try { Thread.sleep(100000); } catch (InterruptedException e) { e.printStackTrace(); } }).start(); } }
本來以為會(huì)報(bào)OutOfMemoryError
,但是沒想到的是我的電腦直接直接卡死了…而且不是一次,試了幾次都是以卡死只能重啟電腦而結(jié)束。好吧,我選擇放棄,那么下面再試試啟動(dòng)100萬個(gè)Fiber
協(xié)程。
public static void main(String[] args) throws Exception { CountDownLatch countDownLatch=new CountDownLatch(10000); for (int i = 0; i < 1000000; i++) { int finalI = i; new Fiber<>((SuspendableCallable<Integer>)()->{ Fiber.sleep(100000); countDownLatch.countDown(); return finalI; }).start(); } countDownLatch.await(); System.out.println("end"); }
程序能夠正常執(zhí)行結(jié)束,看樣子使用的內(nèi)存真的比線程少很多。上面我故意使每個(gè)協(xié)程結(jié)束的時(shí)間拖得很長,這樣我們就可以在運(yùn)行過程中使用Java VisualVM查看內(nèi)存的占用情況了:
可以看到在使用Fiber
的情況下只使用了1G多一點(diǎn)的內(nèi)存,平均到100萬個(gè)協(xié)程上也就是說每個(gè)Fiber
只占用了1Kb
左右的內(nèi)存空間,和Thread
線程比起來真的是非常的輕量級(jí)。
從上面這張圖中我們也可以看到,運(yùn)行了非常多的ForkJoinPool
,它們又起到了什么作用呢?我們?cè)谇懊嬲f過,協(xié)程是由程序控制在用戶態(tài)進(jìn)行切換,而Quasar中的調(diào)度器就使用了一個(gè)或多個(gè)ForkJoinPool
來完成對(duì)Fiber
的調(diào)度。
3、原理與應(yīng)用
這里簡單介紹一下Quasar的原理,在編譯時(shí)框架會(huì)對(duì)代碼進(jìn)行掃描,如果方法帶有@Suspendable
注解,或拋出了SuspendExecution
,或在配置文件META-INF/suspendables
中指定該方法,那么Quasar就會(huì)修改生成的字節(jié)碼,在park
掛起方法的前后,插入一些字節(jié)碼。
這些字節(jié)碼會(huì)記錄此時(shí)協(xié)程的執(zhí)行狀態(tài),例如相關(guān)的局部變量與操作數(shù)棧,然后通過拋出異常的方式將cpu的控制權(quán)從當(dāng)前協(xié)程交回到控制器,此時(shí)控制器可以再調(diào)度另外一個(gè)協(xié)程運(yùn)行,并通過之前插入的那些字節(jié)碼恢復(fù)當(dāng)前協(xié)程的執(zhí)行狀態(tài),使程序能繼續(xù)正常執(zhí)行。
回頭看一下前面例子中的SuspendableRunnable
和SuspendableCallable
,它們的run
方法上都拋出了SuspendExecution
,其實(shí)這并不是一個(gè)真正的異常,僅作為識(shí)別掛起方法的聲明,在實(shí)際運(yùn)行中不會(huì)拋出。當(dāng)我們創(chuàng)建了一個(gè)Fiber
,并在其中調(diào)用了其他方法時(shí),如果想要Quasar的調(diào)度器能夠介入,那么必須在使用時(shí)層層拋出這個(gè)異?;蛱砑幼⒔?。
看一下簡單的代碼書寫的示例:
public void request(){ new Fiber<>(new SuspendableRunnable() { @Override public void run() throws SuspendExecution, InterruptedException { String content = sendRequest(); System.out.println(content); } }).start(); } private String sendRequest() throws SuspendExecution { return realSendRequest(); } private String realSendRequest() throws SuspendExecution{ HttpResponse response = HttpRequest.get("http://127.0.0.1:6879/name").execute(); String content = response.body(); return content; }
需要注意的是,如果在方法內(nèi)部已經(jīng)通過try/catch的方式捕獲了Exception
,也應(yīng)該再次手動(dòng)拋出這個(gè)SuspendExecution
異常。
總結(jié)
本文介紹了Quasar框架的簡單使用,其具體的實(shí)現(xiàn)原理比較復(fù)雜,暫時(shí)就不在這里進(jìn)行討論,后面打算單獨(dú)拎出來進(jìn)行分析。另外,目前已經(jīng)有不少其他的框架中已經(jīng)集成了Quasar,例如同樣是Parallel Universe
下的Comsat項(xiàng)目,能夠提供了HTTP和DB訪問等功能。
雖然現(xiàn)在想要在Java中使用協(xié)程還只能使用這樣的第三方的框架,但是也不必灰心,在OpenJDK 16中已經(jīng)加入了一個(gè)名為Project Loom
的項(xiàng)目, 在OpenJDK Wiki
上可以看到對(duì)它的介紹,它將使用Fiber
輕量級(jí)用戶模式線程,從jvm層面對(duì)多線程技術(shù)進(jìn)行徹底的改變,使用新的編程模型,使輕量級(jí)線程的并發(fā)也能夠適用于高吞吐量的業(yè)務(wù)場景。
到此這篇關(guān)于Java 協(xié)程 Quasar詳解的文章就介紹到這了,更多相關(guān)Java Quasar內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Spring Boot利用Lombok減少Java中樣板代碼的方法示例
spring Boot是非常高效的開發(fā)框架,lombok是一套代碼模板解決方案,將極大提升開發(fā)的效率,下面這篇文章主要給大家介紹了關(guān)于Spring Boot利用Lombok減少Java中樣板代碼的相關(guān)資料,需要的朋友可以參考借鑒,下面來一起看看吧。2017-09-09使用Spring掃描Mybatis的mapper接口的三種配置
這篇文章主要介紹了使用Spring掃描Mybatis的mapper接口的三種配置,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2021-08-08基于java實(shí)現(xiàn)租車管理系統(tǒng)
這篇文章主要為大家詳細(xì)介紹了基于java實(shí)現(xiàn)租車管理系統(tǒng),文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2020-12-12Mybatis中 mapper-locations和@MapperScan的作用
這篇文章主要介紹了Mybatis中 mapper-locations和@MapperScan的作用,mybatis.mapper-locations在SpringBoot配置文件中使用,作用是掃描Mapper接口對(duì)應(yīng)的XML文件,需要的朋友可以參考下2023-05-05JS實(shí)現(xiàn)冒泡排序,插入排序和快速排序并排序輸出
這篇文章主要介紹了JS實(shí)現(xiàn)冒泡排序,插入排序和快速排序并從input文本框中獲取內(nèi)容進(jìn)行排序輸出,需要的朋友可以參考下2015-07-07Spring動(dòng)態(tài)多數(shù)據(jù)源配置實(shí)例Demo
本篇文章主要介紹了Spring動(dòng)態(tài)多數(shù)據(jù)源配置實(shí)例Demo,具有一定的參考價(jià)值,有興趣的可以了解一下。2017-01-01