詳解Spring MVC的異步模式(高性能的關(guān)鍵)
什么是異步模式
要知道什么是異步模式,就先要知道什么是同步模式,先看最典型的同步模式:
瀏覽器發(fā)起請(qǐng)求,Web服務(wù)器開一個(gè)線程處理,處理完把處理結(jié)果返回瀏覽器。好像沒什么好說的了,絕大多數(shù)Web服務(wù)器都如此般處理?,F(xiàn)在想想如果處理的過程中需要調(diào)用后端的一個(gè)業(yè)務(wù)邏輯服務(wù)器,會(huì)是怎樣呢?
調(diào)就調(diào)吧,上圖所示,請(qǐng)求處理線程會(huì)在Call了之后等待Return,自身處于阻塞狀態(tài)。這也是絕大多數(shù)Web服務(wù)器的做法,一般來說這樣做也夠了,為啥?一來“長(zhǎng)時(shí)間處理服務(wù)”調(diào)用通常不多,二來請(qǐng)求數(shù)其實(shí)也不多。要不是這樣的話,這種模式會(huì)出現(xiàn)什么問題呢?——會(huì)出現(xiàn)的問題就是請(qǐng)求處理線程的短缺!因?yàn)檎?qǐng)求處理線程的總數(shù)是有限的,如果類似的請(qǐng)求多了,所有的處理線程處于阻塞的狀態(tài),那新的請(qǐng)求也就無法處理了,也就所謂影響了服務(wù)器的吞吐能力。要更加好地發(fā)揮服務(wù)器的全部性能,就要使用異步,這也是標(biāo)題上所說的“高性能的關(guān)鍵”。接下來我們來看看異步是怎么一回事:
最大的不同在于請(qǐng)求處理線程對(duì)后臺(tái)處理的調(diào)用使用了“invoke”的方式,就是說調(diào)了之后直接返回,而不等待,這樣請(qǐng)求處理線程就“自由”了,它可以接著去處理別的請(qǐng)求,當(dāng)后端處理完成后,會(huì)鉤起一個(gè)回調(diào)處理線程來處理調(diào)用的結(jié)果,這個(gè)回調(diào)處理線程跟請(qǐng)求處理線程也許都是線程池中的某個(gè)線程,相互間可以完全沒有關(guān)系,由這個(gè)回調(diào)處理線程向?yàn)g覽器返回內(nèi)容。這就是異步的過程。
帶來的改進(jìn)是顯而易見的,請(qǐng)求處理線程不需要阻塞了,它的能力得到了更充分的使用,帶來了服務(wù)器吞吐能力的提升。
Spring MVC的使用——DefferedResult
要使用Spring MVC的異步功能,你得先確保你用的是Servlet 3.0或以上的版本,Maven中如此配置:
<dependency> <groupId>javax.servlet</groupId> <artifactId>javax.servlet-api</artifactId> <version>3.1.0</version> <scope>provided</scope> </dependency> <dependency> <groupId>org.springframework</groupId> <artifactId>spring-webmvc</artifactId> <version>4.2.3.RELEASE</version> </dependency>
我這里使用的Servlet版本是3.1.0,Spring MVC版本是4.2.3,建議使用最新的版本。
由于Spring MVC的良好封裝,異步功能使用起來出奇的簡(jiǎn)單。傳統(tǒng)的同步模式的Controller是返回ModelAndView,而異步模式則是返回DeferredResult<ModelAndView>。
看這個(gè)例子:
@RequestMapping(value="/asynctask", method = RequestMethod.GET) public DeferredResult<ModelAndView> asyncTask(){ DeferredResult<ModelAndView> deferredResult = new DeferredResult<ModelAndView>(); System.out.println("/asynctask 調(diào)用!thread id is : " + Thread.currentThread().getId()); longTimeAsyncCallService.makeRemoteCallAndUnknownWhenFinish(new LongTermTaskCallback() { @Override public void callback(Object result) { System.out.println("異步調(diào)用執(zhí)行完成, thread id is : " + Thread.currentThread().getId()); ModelAndView mav = new ModelAndView("remotecalltask"); mav.addObject("result", result); deferredResult.setResult(mav); } }); }
longTimeAsyncCallService是我寫的一個(gè)模擬長(zhǎng)時(shí)間異步調(diào)用的服務(wù)類,調(diào)用之,立即返回,當(dāng)它處理完成時(shí)候,就鉤起一個(gè)線程調(diào)用我們提供的回調(diào)函數(shù),這跟“圖3”描述的一樣,它的代碼如下:
public interface LongTermTaskCallback { void callback(Object result); } public class LongTimeAsyncCallService { private final int CorePoolSize = 4; private final int NeedSeconds = 3; private Random random = new Random(); private ScheduledExecutorService scheduler = Executors.newScheduledThreadPool(CorePoolSize); public void makeRemoteCallAndUnknownWhenFinish(LongTermTaskCallback callback){ System.out.println("完成此任務(wù)需要 : " + NeedSeconds + " 秒"); scheduler.schedule(new Runnable() { @Override public void run() { callback.callback("長(zhǎng)時(shí)間異步調(diào)用完成."); } }, "這是處理結(jié)果:)", TimeUnit.SECONDS); } }
輸出的結(jié)果是:
/asynctask 調(diào)用!thread id is : 46
完成此任務(wù)需要 : 3 秒
異步調(diào)用執(zhí)行完成, thread id is : 47
由此可見返回結(jié)果的線程和請(qǐng)求處理線程不是同一線程。
還有個(gè)叫WebAsyncTask
返回DefferedResult<ModelAndView>并非唯一做法,還可以返回WebAsyncTask來實(shí)現(xiàn)“異步”,但略有不同,不同之處在于返回WebAsyncTask的話是不需要我們主動(dòng)去調(diào)用Callback的,看例子:
@RequestMapping(value="/longtimetask", method = RequestMethod.GET) public WebAsyncTask longTimeTask(){ System.out.println("/longtimetask被調(diào)用 thread id is : " + Thread.currentThread().getId()); Callable<ModelAndView> callable = new Callable<ModelAndView>() { public ModelAndView call() throws Exception { Thread.sleep(3000); //假設(shè)是一些長(zhǎng)時(shí)間任務(wù) ModelAndView mav = new ModelAndView("longtimetask"); mav.addObject("result", "執(zhí)行成功"); System.out.println("執(zhí)行成功 thread id is : " + Thread.currentThread().getId()); return mav; } }; return new WebAsyncTask(callable); }
其核心是一個(gè)Callable<ModelAndView>,事實(shí)上,直接返回Callable<ModelAndView>都是可以的,但我們這里包裝了一層,以便做后面提到的“超時(shí)處理”。和前一個(gè)方案的差別在于這個(gè)Callable的call方法并不是我們直接調(diào)用的,而是在longTimeTask返回后,由Spring MVC用一個(gè)工作線程來調(diào)用,執(zhí)行,打印出來的結(jié)果:
/longtimetask被調(diào)用 thread id is : 56
執(zhí)行成功 thread id is : 57
可見確實(shí)由不同線程執(zhí)行的,但這個(gè)WebAsyncTask可不太符合“圖3”所描述的技術(shù)規(guī)格,它僅僅是簡(jiǎn)單地把請(qǐng)求處理線程的任務(wù)轉(zhuǎn)交給另一工作線程而已。
處理超時(shí)
如果“長(zhǎng)時(shí)間處理任務(wù)”一直沒返回,那我們也不應(yīng)該讓客戶端無限等下去啊,總歸要弄個(gè)“超時(shí)”出來。如圖:
其實(shí)“超時(shí)處理線程”和“回調(diào)處理線程”可能都是線程池中的某個(gè)線程,我為了清晰點(diǎn)把它們分開畫而已。增加這個(gè)超時(shí)處理在Spring MVC中非常簡(jiǎn)單,先拿WebAsyncTask那段代碼來改一下:
@RequestMapping(value="/longtimetask", method = RequestMethod.GET) public WebAsyncTask longTimeTask(){ System.out.println("/longtimetask被調(diào)用 thread id is : " + Thread.currentThread().getId()); Callable<ModelAndView> callable = new Callable<ModelAndView>() { public ModelAndView call() throws Exception { Thread.sleep(3000); //假設(shè)是一些長(zhǎng)時(shí)間任務(wù) ModelAndView mav = new ModelAndView("longtimetask"); mav.addObject("result", "執(zhí)行成功"); System.out.println("執(zhí)行成功 thread id is : " + Thread.currentThread().getId()); return mav; } }; WebAsyncTask asyncTask = new WebAsyncTask(2000, callable); asyncTask.onTimeout( new Callable<ModelAndView>() { public ModelAndView call() throws Exception { ModelAndView mav = new ModelAndView("longtimetask"); mav.addObject("result", "執(zhí)行超時(shí)"); System.out.println("執(zhí)行超時(shí) thread id is :" + Thread.currentThread().getId()); return mav; } } ); return new WebAsyncTask(3000, callable); }
注意看紅色字體部分代碼,這就是前面提到的為什么Callable還要外包一層的緣故,給WebAsyncTask設(shè)置一個(gè)超時(shí)回調(diào),即可實(shí)現(xiàn)超時(shí)處理,在這個(gè)例子中,正常處理需要3秒鐘,而超時(shí)設(shè)置為2秒,所以肯定會(huì)出現(xiàn)超時(shí),執(zhí)行打印log如下:
/longtimetask被調(diào)用 thread id is : 59
執(zhí)行超時(shí) thread id is :61
執(zhí)行成功 thread id is : 80
嗯?明明超時(shí)了,怎么還會(huì)“執(zhí)行成功”呢?超時(shí)歸超時(shí),超時(shí)并不會(huì)打斷正常執(zhí)行流程,但注意,出現(xiàn)超時(shí)后我們給客戶端返回了“超時(shí)”的結(jié)果,那接下來即便正常處理流程成功,客戶端也收不到正常處理成功所產(chǎn)生的結(jié)果了,這帶來的問題就是:客戶端看到了“超時(shí)”,實(shí)際上操作到底有沒有成功,客戶端并不知道,但通常這也不是什么大問題,因?yàn)橛脩粼跒g覽器上再刷新一下就好了。:D
好,再來看DefferedResult方式的超時(shí)處理:
@RequestMapping(value = "/asynctask", method = RequestMethod.GET) public DeferredResult<ModelAndView> asyncTask() { DeferredResult<ModelAndView> deferredResult = new DeferredResult<ModelAndView>(2000L); System.out.println("/asynctask 調(diào)用!thread id is : " + Thread.currentThread().getId()); longTimeAsyncCallService.makeRemoteCallAndUnknownWhenFinish(new LongTermTaskCallback() { @Override public void callback(Object result) { System.out.println("異步調(diào)用執(zhí)行完成, thread id is : " + Thread.currentThread().getId()); ModelAndView mav = new ModelAndView("remotecalltask"); mav.addObject("result", result); deferredResult.setResult(mav); } }); deferredResult.onTimeout(new Runnable() { @Override public void run() { System.out.println("異步調(diào)用執(zhí)行超時(shí)!thread id is : " + Thread.currentThread().getId()); ModelAndView mav = new ModelAndView("remotecalltask"); mav.addObject("result", "異步調(diào)用執(zhí)行超時(shí)"); deferredResult.setResult(mav); } }); return deferredResult; }
非常類似,對(duì)吧,我把超時(shí)設(shè)置為2秒,而正常處理需要3秒,一定會(huì)超時(shí),執(zhí)行結(jié)果如下:
/asynctask 調(diào)用!thread id is : 48
完成此任務(wù)需要 : 3 秒
異步調(diào)用執(zhí)行超時(shí)!thread id is : 51
異步調(diào)用執(zhí)行完成, thread id is : 49
完全在我們預(yù)料之中。
異常處理
貌似沒什么差別,在Controller中的處理和之前同步模式的處理是一樣一樣的:
@ExceptionHandler(Exception.class) public ModelAndView handleAllException(Exception ex) { ModelAndView model = new ModelAndView("error"); model.addObject("result", ex.getMessage()); return model; }
還要再弄個(gè)全局的異常處理啥的,和過去的做法都一樣,在此不表了。
以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
- SpringMVC適配器模式代碼示例
- 淺談spring中用到的設(shè)計(jì)模式及應(yīng)用場(chǎng)景
- spring boot整合RabbitMQ實(shí)例詳解(Fanout模式)
- Spring Boot整合RabbitMQ實(shí)例(Topic模式)
- spring boot整合RabbitMQ(Direct模式)
- Spring MVC 4.1.3 + MyBatis零基礎(chǔ)搭建Web開發(fā)框架(注解模式)
- Java的MyBatis+Spring框架中使用數(shù)據(jù)訪問對(duì)象DAO模式的方法
- 淺談Spring單例Bean與單例模式的區(qū)別
相關(guān)文章
SpringBoot整合MybatisPlusGernerator實(shí)現(xiàn)逆向工程
在我們寫項(xiàng)目的時(shí)候,我們時(shí)常會(huì)因?yàn)樾枰獎(jiǎng)?chuàng)建很多的項(xiàng)目結(jié)構(gòu)而頭疼,本文主要介紹了SpringBoot整合MybatisPlusGernerator實(shí)現(xiàn)逆向工程,具有一定的參考價(jià)值,感興趣的可以了解一下2024-05-05spring boot(三)之Spring Boot中Redis的使用
這篇文章主要介紹了spring boot(三)之Spring Boot中Redis的使用,非常不錯(cuò),具有參考借鑒價(jià)值,需要的朋友可以參考下2017-05-05Java Web導(dǎo)出等比例圖片到Excel的實(shí)現(xiàn)過程
我們使用Java導(dǎo)出圖片到Excel,打開成功導(dǎo)出的Excel一看,商品對(duì)應(yīng)的圖片都很規(guī)矩的按照我的設(shè)置鋪滿了整個(gè)單元格,但是,商品圖片卻都變形了,這樣肯定是不行的,于是第一反應(yīng)就是將圖片等比例導(dǎo)出,所以本文本給大家介紹了如何使用Java Web導(dǎo)出等比例圖片到Excel2023-11-11深入理解Java運(yùn)行時(shí)數(shù)據(jù)區(qū)_動(dòng)力節(jié)點(diǎn)Java學(xué)院整理
這篇文章主要介紹了Java運(yùn)行時(shí)數(shù)據(jù)區(qū)的相關(guān)知識(shí),非常不錯(cuò),具有參考借鑒價(jià)值,需要的朋友參考下吧2017-06-06SpringBoot升級(jí)指定jackson版本的問題
這篇文章主要介紹了SpringBoot升級(jí)指定jackson版本,本文給大家分享了漏洞通告及修改Springboot中jackson版本的問題,需要的朋友可以參考下2022-08-08springcloud本地調(diào)試feign調(diào)用出現(xiàn)的詭異404問題及解決
這篇文章主要介紹了springcloud本地調(diào)試feign調(diào)用出現(xiàn)的詭異404問題及解決,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2022-03-03mybatis if傳入字符串?dāng)?shù)字踩坑記錄及解決
這篇文章主要介紹了mybatis if傳入字符串?dāng)?shù)字踩坑記錄及解決方案,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-02-02Java設(shè)計(jì)模塊系列之書店管理系統(tǒng)單機(jī)版(三)
這篇文章主要為大家詳細(xì)介紹了Java單機(jī)版的書店管理系統(tǒng)設(shè)計(jì)模塊和思想第三章,感興趣的小伙伴們可以參考一下2016-08-08