快捷導(dǎo)航

詳解Spring MVC的異步模式（高性能的關(guān)鍵）

更新時(shí)間：2017年02月04日 15:53:27 作者：蔣國綱

本篇文章主要介紹了詳解Spring MVC的異步模式（高性能的關(guān)鍵），小編覺得挺不錯(cuò)的，現(xiàn)在分享給大家，也給大家做個(gè)參考。一起跟隨小編過來看看吧

什么是異步模式

要知道什么是異步模式，就先要知道什么是同步模式，先看最典型的同步模式：

瀏覽器發(fā)起請求，Web服務(wù)器開一個(gè)線程處理，處理完把處理結(jié)果返回瀏覽器。好像沒什么好說的了，絕大多數(shù)Web服務(wù)器都如此般處理?，F(xiàn)在想想如果處理的過程中需要調(diào)用后端的一個(gè)業(yè)務(wù)邏輯服務(wù)器，會是怎樣呢？

調(diào)就調(diào)吧，上圖所示，請求處理線程會在Call了之后等待Return，自身處于阻塞狀態(tài)。這也是絕大多數(shù)Web服務(wù)器的做法，一般來說這樣做也夠了，為啥？一來“長時(shí)間處理服務(wù)”調(diào)用通常不多，二來請求數(shù)其實(shí)也不多。要不是這樣的話，這種模式會出現(xiàn)什么問題呢？——會出現(xiàn)的問題就是請求處理線程的短缺！因?yàn)檎埱筇幚砭€程的總數(shù)是有限的，如果類似的請求多了，所有的處理線程處于阻塞的狀態(tài)，那新的請求也就無法處理了，也就所謂影響了服務(wù)器的吞吐能力。要更加好地發(fā)揮服務(wù)器的全部性能，就要使用異步，這也是標(biāo)題上所說的“高性能的關(guān)鍵”。接下來我們來看看異步是怎么一回事：

最大的不同在于請求處理線程對后臺處理的調(diào)用使用了“invoke”的方式，就是說調(diào)了之后直接返回，而不等待，這樣請求處理線程就“自由”了，它可以接著去處理別的請求，當(dāng)后端處理完成后，會鉤起一個(gè)回調(diào)處理線程來處理調(diào)用的結(jié)果，這個(gè)回調(diào)處理線程跟請求處理線程也許都是線程池中的某個(gè)線程，相互間可以完全沒有關(guān)系，由這個(gè)回調(diào)處理線程向?yàn)g覽器返回內(nèi)容。這就是異步的過程。

帶來的改進(jìn)是顯而易見的，請求處理線程不需要阻塞了，它的能力得到了更充分的使用，帶來了服務(wù)器吞吐能力的提升。

Spring MVC的使用——DefferedResult

要使用Spring MVC的異步功能，你得先確保你用的是Servlet 3.0或以上的版本，Maven中如此配置：

  <dependency>
   <groupId>javax.servlet</groupId>
   <artifactId>javax.servlet-api</artifactId>
   <version>3.1.0</version>
   <scope>provided</scope>
  </dependency>
  <dependency>
   <groupId>org.springframework</groupId>
   <artifactId>spring-webmvc</artifactId>
   <version>4.2.3.RELEASE</version>
  </dependency>

我這里使用的Servlet版本是3.1.0，Spring MVC版本是4.2.3，建議使用最新的版本。

由于Spring MVC的良好封裝，異步功能使用起來出奇的簡單。傳統(tǒng)的同步模式的Controller是返回ModelAndView，而異步模式則是返回DeferredResult<ModelAndView>。

看這個(gè)例子：

@RequestMapping(value="/asynctask", method = RequestMethod.GET)
public DeferredResult<ModelAndView> asyncTask(){
  DeferredResult<ModelAndView> deferredResult = new DeferredResult<ModelAndView>();
  System.out.println("/asynctask 調(diào)用！thread id is : " + Thread.currentThread().getId());
  longTimeAsyncCallService.makeRemoteCallAndUnknownWhenFinish(new LongTermTaskCallback() {
    @Override
    public void callback(Object result) {
      System.out.println("異步調(diào)用執(zhí)行完成, thread id is : " + Thread.currentThread().getId());
      ModelAndView mav = new ModelAndView("remotecalltask");
      mav.addObject("result", result);
      deferredResult.setResult(mav);
    }
  });
}

longTimeAsyncCallService是我寫的一個(gè)模擬長時(shí)間異步調(diào)用的服務(wù)類，調(diào)用之，立即返回，當(dāng)它處理完成時(shí)候，就鉤起一個(gè)線程調(diào)用我們提供的回調(diào)函數(shù)，這跟“圖3”描述的一樣，它的代碼如下：

public interface LongTermTaskCallback {
  void callback(Object result);
}

public class LongTimeAsyncCallService {
  private final int CorePoolSize = 4;
  private final int NeedSeconds = 3;
  private Random random = new Random();
  private ScheduledExecutorService scheduler = Executors.newScheduledThreadPool(CorePoolSize);
  public void makeRemoteCallAndUnknownWhenFinish(LongTermTaskCallback callback){
    System.out.println("完成此任務(wù)需要 : " + NeedSeconds + " 秒");
    scheduler.schedule(new Runnable() {
      @Override
      public void run() {
        callback.callback("長時(shí)間異步調(diào)用完成.");
      }
    }, "這是處理結(jié)果:)", TimeUnit.SECONDS);
  }
}

輸出的結(jié)果是：

/asynctask 調(diào)用！thread id is : 46

完成此任務(wù)需要 : 3 秒

異步調(diào)用執(zhí)行完成, thread id is : 47

由此可見返回結(jié)果的線程和請求處理線程不是同一線程。

還有個(gè)叫WebAsyncTask

返回DefferedResult<ModelAndView>并非唯一做法，還可以返回WebAsyncTask來實(shí)現(xiàn)“異步”，但略有不同，不同之處在于返回WebAsyncTask的話是不需要我們主動(dòng)去調(diào)用Callback的，看例子：

@RequestMapping(value="/longtimetask", method = RequestMethod.GET)
public WebAsyncTask longTimeTask(){
  System.out.println("/longtimetask被調(diào)用 thread id is : " + Thread.currentThread().getId());
  Callable<ModelAndView> callable = new Callable<ModelAndView>() {
    public ModelAndView call() throws Exception {
      Thread.sleep(3000); //假設(shè)是一些長時(shí)間任務(wù)
      ModelAndView mav = new ModelAndView("longtimetask");
      mav.addObject("result", "執(zhí)行成功");
      System.out.println("執(zhí)行成功 thread id is : " + Thread.currentThread().getId());
      return mav;
    }
  };
  return new WebAsyncTask(callable);
}

其核心是一個(gè)Callable<ModelAndView>，事實(shí)上，直接返回Callable<ModelAndView>都是可以的，但我們這里包裝了一層，以便做后面提到的“超時(shí)處理”。和前一個(gè)方案的差別在于這個(gè)Callable的call方法并不是我們直接調(diào)用的，而是在longTimeTask返回后，由Spring MVC用一個(gè)工作線程來調(diào)用，執(zhí)行，打印出來的結(jié)果：

/longtimetask被調(diào)用 thread id is : 56

執(zhí)行成功 thread id is : 57

可見確實(shí)由不同線程執(zhí)行的，但這個(gè)WebAsyncTask可不太符合“圖3”所描述的技術(shù)規(guī)格，它僅僅是簡單地把請求處理線程的任務(wù)轉(zhuǎn)交給另一工作線程而已。

處理超時(shí)

如果“長時(shí)間處理任務(wù)”一直沒返回，那我們也不應(yīng)該讓客戶端無限等下去啊，總歸要弄個(gè)“超時(shí)”出來。如圖：

其實(shí)“超時(shí)處理線程”和“回調(diào)處理線程”可能都是線程池中的某個(gè)線程，我為了清晰點(diǎn)把它們分開畫而已。增加這個(gè)超時(shí)處理在Spring MVC中非常簡單，先拿WebAsyncTask那段代碼來改一下：

@RequestMapping(value="/longtimetask", method = RequestMethod.GET)
public WebAsyncTask longTimeTask(){
  System.out.println("/longtimetask被調(diào)用 thread id is : " + Thread.currentThread().getId());
  Callable<ModelAndView> callable = new Callable<ModelAndView>() {
    public ModelAndView call() throws Exception {
      Thread.sleep(3000); //假設(shè)是一些長時(shí)間任務(wù)
      ModelAndView mav = new ModelAndView("longtimetask");
      mav.addObject("result", "執(zhí)行成功");
      System.out.println("執(zhí)行成功 thread id is : " + Thread.currentThread().getId());
      return mav;
    }
  };
  
  
  WebAsyncTask asyncTask = new WebAsyncTask(2000, callable);
  asyncTask.onTimeout(
      new Callable<ModelAndView>() {
        public ModelAndView call() throws Exception {
          ModelAndView mav = new ModelAndView("longtimetask");
          mav.addObject("result", "執(zhí)行超時(shí)");
          System.out.println("執(zhí)行超時(shí) thread id is ：" + Thread.currentThread().getId());
          return mav;
        }
      }
  );
  return new WebAsyncTask(3000, callable);
}

注意看紅色字體部分代碼，這就是前面提到的為什么Callable還要外包一層的緣故，給WebAsyncTask設(shè)置一個(gè)超時(shí)回調(diào)，即可實(shí)現(xiàn)超時(shí)處理，在這個(gè)例子中，正常處理需要3秒鐘，而超時(shí)設(shè)置為2秒，所以肯定會出現(xiàn)超時(shí)，執(zhí)行打印log如下：

/longtimetask被調(diào)用 thread id is : 59

執(zhí)行超時(shí) thread id is ：61

執(zhí)行成功 thread id is : 80

嗯？明明超時(shí)了，怎么還會“執(zhí)行成功”呢？超時(shí)歸超時(shí)，超時(shí)并不會打斷正常執(zhí)行流程，但注意，出現(xiàn)超時(shí)后我們給客戶端返回了“超時(shí)”的結(jié)果，那接下來即便正常處理流程成功，客戶端也收不到正常處理成功所產(chǎn)生的結(jié)果了，這帶來的問題就是：客戶端看到了“超時(shí)”，實(shí)際上操作到底有沒有成功，客戶端并不知道，但通常這也不是什么大問題，因?yàn)橛脩粼跒g覽器上再刷新一下就好了。:D

好，再來看DefferedResult方式的超時(shí)處理：

  @RequestMapping(value = "/asynctask", method = RequestMethod.GET)
  public DeferredResult<ModelAndView> asyncTask() {
    DeferredResult<ModelAndView> deferredResult = new DeferredResult<ModelAndView>(2000L);
    System.out.println("/asynctask 調(diào)用！thread id is : " + Thread.currentThread().getId());
    longTimeAsyncCallService.makeRemoteCallAndUnknownWhenFinish(new LongTermTaskCallback() {
      @Override
      public void callback(Object result) {
        System.out.println("異步調(diào)用執(zhí)行完成, thread id is : " + Thread.currentThread().getId());
        ModelAndView mav = new ModelAndView("remotecalltask");
        mav.addObject("result", result);
        deferredResult.setResult(mav);
      }
    });

    deferredResult.onTimeout(new Runnable() {
      @Override
      public void run() {
        System.out.println("異步調(diào)用執(zhí)行超時(shí)！thread id is : " + Thread.currentThread().getId());
        ModelAndView mav = new ModelAndView("remotecalltask");
        mav.addObject("result", "異步調(diào)用執(zhí)行超時(shí)");
        deferredResult.setResult(mav);
      }
    });

    return deferredResult;
  }

非常類似，對吧，我把超時(shí)設(shè)置為2秒，而正常處理需要3秒，一定會超時(shí)，執(zhí)行結(jié)果如下：

/asynctask 調(diào)用！thread id is : 48

完成此任務(wù)需要 : 3 秒

異步調(diào)用執(zhí)行超時(shí)！thread id is : 51

異步調(diào)用執(zhí)行完成, thread id is : 49

完全在我們預(yù)料之中。

異常處理

貌似沒什么差別，在Controller中的處理和之前同步模式的處理是一樣一樣的：

  @ExceptionHandler(Exception.class)
  public ModelAndView handleAllException(Exception ex) {
    ModelAndView model = new ModelAndView("error");
    model.addObject("result", ex.getMessage());
    return model;
  }

還要再弄個(gè)全局的異常處理啥的，和過去的做法都一樣，在此不表了。

以上就是本文的全部內(nèi)容，希望對大家的學(xué)習(xí)有所幫助，也希望大家多多支持腳本之家。

您可能感興趣的文章: