python之gunicorn配置

• 起因：因?yàn)閏pu利用率低導(dǎo)致我去縮容，雖然縮容之后cpu利用率上升維持在60%左右，但是程序響應(yīng)耗時(shí)增加了。
• 解釋：因?yàn)閏pu干這件活本身不累，但在干這件活的時(shí)候不能去干其他事情，導(dǎo)致并發(fā)的請(qǐng)求不能及時(shí)響應(yīng)，導(dǎo)致耗時(shí)增加。比如，sleep1s，此時(shí)cpu利用率為0，但是cpu卻做不了其他的處理。其他任務(wù)就被阻塞。
• 解法：增加cpu的線程數(shù)。

但我任務(wù)的配置其實(shí)是協(xié)程，而不是多線程。

gunicorn當(dāng)worker_class = 'gevent’時(shí)，如何增加程序的并發(fā)能力？

在 Gunicorn 中使用 worker_class = 'gevent'（基于協(xié)程的異步 Worker）時(shí)，提升并發(fā)能力的關(guān)鍵在于 合理配置協(xié)程并發(fā)數(shù) 和 優(yōu)化資源分配。

以下是具體方法和步驟：

一、gevent 的并發(fā)原理

gevent 通過 協(xié)程（Coroutine） 和 事件循環(huán)（Event Loop） 實(shí)現(xiàn)高并發(fā)，每個(gè)請(qǐng)求由協(xié)程處理而非線程或進(jìn)程。

協(xié)程的切換成本極低，因此適用于 I/O 密集型 場(chǎng)景（如 HTTP API、數(shù)據(jù)庫查詢、外部服務(wù)調(diào)用等）。

二、提升并發(fā)能力的核心參數(shù)

1. Worker 進(jìn)程數(shù) (--workers/workers)

• 作用：指定啟動(dòng)的 Worker 進(jìn)程數(shù)量。每個(gè) Worker 是一個(gè)獨(dú)立進(jìn)程，內(nèi)部通過協(xié)程處理并發(fā)。
• 建議值：通常設(shè)置為 CPU 核心數(shù) × 2 + 1。例如 4 核 CPU 可設(shè) workers = 9。
• 示例：

gunicorn --workers=9 --worker-class=gevent app:app

2. 每個(gè) Worker 的并發(fā)連接數(shù) (--worker-connections/worker_connections)

• 作用：?jiǎn)蝹€(gè) Worker 進(jìn)程能處理的最大并發(fā)連接數(shù)。此參數(shù)直接影響協(xié)程池大小。
• 建議值：默認(rèn) 1000，可調(diào)整為 1000~5000（需根據(jù)內(nèi)存和負(fù)載測(cè)試調(diào)整）。
• 示例：

gunicorn --workers=9 --worker-class=gevent --worker-connections=2000 app:app

3. 超時(shí)時(shí)間 (--timeout/timeout)

• 作用：防止單個(gè)請(qǐng)求長(zhǎng)時(shí)間阻塞協(xié)程。
• 建議值：根據(jù)接口響應(yīng)時(shí)間設(shè)定（如 --timeout=30 表示 30 秒超時(shí)）。

三、完整配置示例

1. 通過命令行啟動(dòng)

gunicorn \
  --workers=9 \                # Worker 進(jìn)程數(shù) = CPU核心數(shù) × 2 + 1
  --worker-class=gevent \      # 使用 gevent Worker
  --worker-connections=2000 \  # 每個(gè) Worker 的協(xié)程并發(fā)數(shù)
  --timeout=30 \               # 請(qǐng)求超時(shí)時(shí)間
  --bind=0.0.0.0:8000 \        # 綁定端口
  app:app                      # 應(yīng)用入口

2. 通過配置文件 (gunicorn.conf.py)

# gunicorn.conf.py
workers = 9
worker_class = "gevent"
worker_connections = 2000
timeout = 30
bind = "0.0.0.0:8000"

啟動(dòng)命令：

gunicorn -c gunicorn.conf.py app:app

四、關(guān)鍵優(yōu)化點(diǎn)

1. 內(nèi)存限制

• 每個(gè) Worker 的協(xié)程數(shù) (worker_connections) 受內(nèi)存限制。協(xié)程越多，內(nèi)存占用越高。
• 監(jiān)控內(nèi)存：使用 top 或 htop 觀察進(jìn)程內(nèi)存，避免觸發(fā) OOM（內(nèi)存不足）。

2. I/O 密集型 vs CPU 密集型

• I/O 密集型（如 HTTP API、數(shù)據(jù)庫查詢）：優(yōu)先增加 worker_connections。
• CPU 密集型（如圖像處理、復(fù)雜計(jì)算）：協(xié)程無法提升性能，需改用多進(jìn)程（如 gthread Worker）。

3. 數(shù)據(jù)庫連接池

• 協(xié)程并發(fā)高時(shí)，需確保數(shù)據(jù)庫連接池足夠大（如 SQLAlchemy 的 pool_size）。

4. 依賴庫兼容性

• 確保所有代碼和第三方庫兼容 gevent（可能需要 monkey.patch_all()）。

5. 啟動(dòng)前添加補(bǔ)丁：

# app.py 入口文件頂部
from gevent import monkey
monkey.patch_all()

總結(jié)

以上為個(gè)人經(jīng)驗(yàn)，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。

最新評(píng)論