問(wèn)題

之前看到過(guò)一個(gè)面試題：SpringBoot同時(shí)可以處理多少請(qǐng)求？

• 準(zhǔn)確的來(lái)說(shuō)，Spring Boot 同時(shí)可以處理多少個(gè)請(qǐng)求，并不取決于 Spring Boot 框架本身，而是取決于其內(nèi)置的 Web 容器（因?yàn)?Web 容器的行為，決定了 Spring Boot 的行為，所以咱們姑且認(rèn)為兩個(gè)問(wèn)題的回答是一樣的）。
• Tomcat的默認(rèn)最大連接數(shù)是200，可以通過(guò)配置文件或者編程方式進(jìn)行調(diào)整。另外，Spring Boot還支持使用其他的Web容器，如Jetty或Undertow，這些容器的性能表現(xiàn)可能不同。
• 除了Web容器的配置，應(yīng)用程序的設(shè)計(jì)也會(huì)影響并發(fā)處理能力。合理的線程池配置、異步處理和優(yōu)化數(shù)據(jù)庫(kù)查詢等技術(shù)手段可以提高應(yīng)用程序的并發(fā)處理能力。

Web三大容器

• Web三大容器：Tomcat、Jetty、Undertow，眾所周知，Tomcat 為 Spring Boot 框架默認(rèn)的 Web 容器

三者區(qū)別

Tomcat

• Tomcat 是 Apache 軟件基金會(huì)下的開源項(xiàng)目，是最廣泛使用的 Servlet 容器之一，完全實(shí)現(xiàn)了 Java Servlet 和 JavaServer Pages（JSP）規(guī)范。
• 它不僅是一個(gè) Servlet 容器，也是一個(gè)輕量級(jí)的應(yīng)用服務(wù)器，盡管相比其他輕量級(jí)服務(wù)器，Tomcat 被認(rèn)為是稍微重一些的。
• Tomcat 支持眾多的企業(yè)級(jí)特性，如 SSL、連接池等，適合運(yùn)行大型的、復(fù)雜的企業(yè)級(jí)應(yīng)用。
• 它的穩(wěn)定性和成熟度經(jīng)過(guò)了多年的企業(yè)級(jí)應(yīng)用驗(yàn)證，因此在很多企業(yè)中作為首選的 Web 容器。

Undertow

• Undertow 是 Red Hat（紅帽公司）開發(fā)的一個(gè)靈活的、高性能的 Web 服務(wù)器和反向代理服務(wù)器，它是 WildFly 應(yīng)用服務(wù)器的默認(rèn) Web 容器。
• Undertow 設(shè)計(jì)上注重低內(nèi)存占用和高并發(fā)處理能力，尤其擅長(zhǎng)處理大量的短連接場(chǎng)景，比如 RESTful API 服務(wù)。
• Undertow 支持 Servlet 3.1、WebSocket以及非阻塞 IO(NIO)，并且是支持 HTTP/2 協(xié)議的現(xiàn)代服務(wù)器之一。
• 它的設(shè)計(jì)理念在于提供一個(gè)模塊化、可嵌入式的解決方案，易于集成到現(xiàn)有的系統(tǒng)中，同時(shí)也適合微服務(wù)架構(gòu)。

Jetty

• Jetty 是一個(gè)開源的、輕量級(jí)的 Web 服務(wù)器和 Servlet 容器，由 Eclipse 基金會(huì)維護(hù)。
• 它以其可嵌入式、高度可配置性著稱，常用于需要快速啟動(dòng)和輕量級(jí)部署的場(chǎng)景，比如開發(fā)階段、測(cè)試環(huán)境或輕量級(jí)應(yīng)用。
• Jetty 也支持 Servlet 規(guī)范和 WebSocket，且同樣基于 NIO，使得它在處理大量并發(fā)連接時(shí)表現(xiàn)出色。
• Jetty 設(shè)計(jì)上強(qiáng)調(diào)靈活性和可擴(kuò)展性，易于通過(guò) API 定制以滿足特定需求，因此在云環(huán)境、持續(xù)集成、DevOps 等領(lǐng)域很受歡迎。

小結(jié)

總的來(lái)說(shuō)

• Tomcat 因其成熟穩(wěn)定和企業(yè)級(jí)特性適用于大型應(yīng)用；
• Undertow 以高性能和低內(nèi)存占用見長(zhǎng)，特別適合處理高并發(fā)短連接場(chǎng)景；
• 而 Jetty 則以輕量、靈活、易于嵌入為特點(diǎn)，適合快速開發(fā)和輕量級(jí)部署。

最大連接數(shù)和最大等待數(shù)

以 Spring Boot 框架默認(rèn)的 Web 容器 Tomcat 為例，它能夠同時(shí)處理多少個(gè)請(qǐng)求，其實(shí)是在 Spring Boot 框架中的 spring-configuration-metadata.json 文件中配置著

打開此文件，搜索“server.tomcat.max-connections”（Tomcat 最大連接數(shù)）會(huì)得到以下結(jié)果：

也就是說(shuō)，默認(rèn)情況下 Tomcat 允許的最大連接數(shù)是 8192（=8*1024）個(gè)。

注意?。?/strong> 雖然 Tomcat 可以允許最大的連接數(shù)是 8192，但是 Tomcat 還有一個(gè)最大等待數(shù)，也就是說(shuō)，如果達(dá)到了 8192 之后，還有一個(gè)等待隊(duì)列可以存放請(qǐng)求的連接，所以，Spring Boot 可以同時(shí)處理多少個(gè)連接，等于 Tomcat 的最大連接數(shù)加 Tomcat 的最大等待數(shù)。

server:
  tomcat:
    max-connections: 2000 # 最大連接數(shù)
    accept-count: 200 # 最大等待數(shù)

<dependencies>
    <!-- Spring Boot Starter Web 但排除Tomcat -->
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-web</artifactId>
        <!-- 排除Tomcat -->
        <exclusions>
            <exclusion>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-starter-tomcat</artifactId>
            </exclusion>
        </exclusions>
    </dependency>
    <!-- 添加Jetty起步依賴 -->
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-jetty</artifactId>
    </dependency>
</dependencies>

<dependencies>
    <!-- Spring Boot Starter Web 但排除Tomcat -->
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-web</artifactId>
        <exclusions>
            <exclusion>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-starter-tomcat</artifactId>
            </exclusion>
        </exclusions>
    </dependency>
    <!-- 添加Undertow起步依賴 -->
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-undertow</artifactId>
    </dependency>
</dependencies>