欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

到底如何設置Java線程池的大小的方法示例

 更新時間:2019年09月11日 10:20:57   作者:Java技術棧  
在我們?nèi)粘I(yè)務開發(fā)過程中,或多或少都會用到并發(fā)的功能。那么并發(fā)線程池到底設置多大呢?文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧

在我們?nèi)粘I(yè)務開發(fā)過程中,或多或少都會用到并發(fā)的功能。那么在用到并發(fā)功能的過程中,就肯定會碰到下面這個問題

并發(fā)線程池到底設置多大呢?

通常有點年紀的程序員或許都聽說這樣一個說法 (其中 N 代表 CPU 的個數(shù))

  1. CPU 密集型應用,線程池大小設置為 N + 1
  2. IO 密集型應用,線程池大小設置為 2N

這個說法到底是不是正確的呢?

其實這是極不正確的。那為什么呢?

首先我們從反面來看,假設這個說法是成立的,那我們在一臺服務器上部署多少個服務都無所謂了。因為線程池的大小只能服務器的核數(shù)有關,所以這個說法是不正確的。那具體應該怎么設置大小呢?

假設這個應用是兩者混合型的,其中任務即有 CPU 密集,也有 IO 密集型的,那么我們改怎么設置呢?是不是只能拋硬盤來決定呢?

那么我們到底該怎么設置線程池大小呢?有沒有一些具體實踐方法來指導大家落地呢?讓我們來深入地了解一下。

Little's Law(利特爾法則)

一個系統(tǒng)請求數(shù)等于請求的到達率與平均每個單獨請求花費的時間之乘積

假設服務器單核的,對應業(yè)務需要保證請求量(QPS):10 ,真正處理一個請求需要 1 秒,那么服務器每個時刻都有 10 個請求在處理,即需要 10 個線程

同樣,我們可以使用利特爾法則(Little's law)來判定線程池大小。我們只需計算請求到達率和請求處理的平均時間。然后,將上述值放到利特爾法則(Little's law)就可以算出系統(tǒng)平均請求數(shù)。估算公式如下

*線程池大小 = ((線程 IO time + 線程 CPU time )/線程 CPU time ) CPU數(shù)目**

具體實踐

通過公式,我們了解到需要 3 個具體數(shù)值

  1. 一個請求所消耗的時間 (線程 IO time + 線程 CPU time)
  2. 該請求計算時間 (線程 CPU time)
  3. CPU 數(shù)目

請求消耗時間

Web 服務容器中,可以通過 Filter 來攔截獲取該請求前后消耗的時間

public class MoniterFilter implements Filter { 
  private static final Logger logger = LoggerFactory.getLogger(MoniterFilter.class); 
  @Override 
  public void doFilter(ServletRequest request, ServletResponse response, FilterChain chain) throws IOException, 
      ServletException { 
    long start = System.currentTimeMillis(); 
    HttpServletRequest httpRequest = (HttpServletRequest) request; 
    HttpServletResponse httpResponse = (HttpServletResponse) response; 
    String uri = httpRequest.getRequestURI(); 
    String params = getQueryString(httpRequest); 
    try { 
      chain.doFilter(httpRequest, httpResponse); 
    } finally { 
      long cost = System.currentTimeMillis() - start; 
      logger.info("access url [{}{}], cost time [{}] ms )", uri, params, cost); 
    } 
  private String getQueryString(HttpServletRequest req) { 
    StringBuilder buffer = new StringBuilder("?"); 
    Enumeration<String> emParams = req.getParameterNames(); 
    try { 
      while (emParams.hasMoreElements()) { 
        String sParam = emParams.nextElement(); 
        String sValues = req.getParameter(sParam); 
        buffer.append(sParam).append("=").append(sValues).append("&"); 
      } 
      return buffer.substring(0, buffer.length() - 1); 
    } catch (Exception e) { 
      logger.error("get post arguments error", buffer.toString()); 
    } 
    return ""; 
  } 
} 

CPU 計算時間

CPU 計算時間 = 請求總耗時 - CPU IO time

假設該請求有一個查詢 DB 的操作,只要知道這個查詢 DB 的耗時(CPU IO time),計算的時間不就出來了嘛,我們看一下怎么才能簡潔,明了的記錄 DB 查詢的耗時。

通過(JDK 動態(tài)代理/ CGLIB)的方式添加 AOP 切面,來獲取線程 IO 耗時。代碼如下,請參考:

public class DaoInterceptor implements MethodInterceptor { 
  private static final Logger logger = LoggerFactory.getLogger(DaoInterceptor.class); 
  @Override 
  public Object invoke(MethodInvocation invocation) throws Throwable { 
    StopWatch watch = new StopWatch(); 
    watch.start(); 
    Object result = null; 
    Throwable t = null; 
    try { 
      result = invocation.proceed(); 
    } catch (Throwable e) { 
      t = e == null ? null : e.getCause(); 
      throw e; 
    } finally { 
      watch.stop(); 
      logger.info("({}ms)", watch.getTotalTimeMillis()); 
    } 
    return result; 
  } 
} 

CPU 數(shù)目

邏輯 CPU 個數(shù) ,設置線程池大小的時候參考的 CPU 個數(shù)

cat /proc/cpuinfo| grep "processor"| wc -l 

總結(jié)

合適的配置線程池大小其實很不容易,但是通過上述的公式和具體代碼,我們就能快速、落地的算出這個線程池該設置的多大。

不過最后的最后,我們還是需要通過壓力測試來進行微調(diào),只有經(jīng)過壓測測試的檢驗,我們才能最終保證的配置大小是準確的。

以上就是本文的全部內(nèi)容,希望對大家的學習有所幫助,也希望大家多多支持腳本之家。

相關文章

  • 淺談Spring與SpringMVC父子容器的關系與初始化

    淺談Spring與SpringMVC父子容器的關系與初始化

    這篇文章主要介紹了淺談Spring與SpringMVC父子容器的關系與初始化,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2020-08-08
  • java8 LocalDate 使用詳解

    java8 LocalDate 使用詳解

    這篇文章主要介紹了java8 LocalDate 使用詳解,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2020-08-08
  • Java中不可或缺的關鍵字volatile詳析

    Java中不可或缺的關鍵字volatile詳析

    volatile是Java提供的一種輕量級的同步機制,下面這篇文章主要給大家介紹了關于Java中不可或缺的關鍵字volatile的相關資料,文中通過示例代碼介紹的非常詳細,需要的朋友可以參考下
    2022-12-12
  • java?11新特性HttpClient主要組件及發(fā)送請求示例詳解

    java?11新特性HttpClient主要組件及發(fā)送請求示例詳解

    這篇文章主要為大家介紹了java?11新特性HttpClient主要組件及發(fā)送請求示例詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪
    2023-06-06
  • Java中SPI的一些理解

    Java中SPI的一些理解

    這篇文章主要介紹了Java中SPI的一些理解,幫助大家更好的理解和學習Java的相關知識,感興趣的朋友可以了解下
    2020-12-12
  • Java調(diào)用CXF WebService接口的兩種方式實例

    Java調(diào)用CXF WebService接口的兩種方式實例

    今天小編就為大家分享一篇關于Java調(diào)用CXF WebService接口的兩種方式實例,小編覺得內(nèi)容挺不錯的,現(xiàn)在分享給大家,具有很好的參考價值,需要的朋友一起跟隨小編來看看吧
    2019-03-03
  • mybatis 在typeAliases別名時報錯的解決

    mybatis 在typeAliases別名時報錯的解決

    這篇文章主要介紹了mybatis 在typeAliases別名時報錯的解決方案,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教
    2021-09-09
  • idea連接數(shù)據(jù)庫的操作方法

    idea連接數(shù)據(jù)庫的操作方法

    這篇文章主要介紹了idea如何連接數(shù)據(jù)庫,本文通過圖文并茂的形式給大家介紹的非常詳細,需要的朋友可以參考下
    2024-02-02
  • SpringBoot如何讀取配置文件中的數(shù)據(jù)到map和list

    SpringBoot如何讀取配置文件中的數(shù)據(jù)到map和list

    這篇文章主要介紹了SpringBoot如何讀取配置文件中的數(shù)據(jù)到map和list,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教
    2022-02-02
  • 使用SpringBoot編寫一個優(yōu)雅的單元測試

    使用SpringBoot編寫一個優(yōu)雅的單元測試

    這篇文章主要為大家詳細介紹了如何使用SpringBoot編寫一個優(yōu)雅的單元測試,文中的示例代碼講解詳細,感興趣的小伙伴可以跟隨小編一起了解一下
    2023-07-07

最新評論