欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

Python結(jié)合多線程與協(xié)程實(shí)現(xiàn)高效異步請(qǐng)求處理

 更新時(shí)間:2025年04月16日 10:02:55   作者:碼農(nóng)阿豪@新空間  
在現(xiàn)代Web開(kāi)發(fā)和數(shù)據(jù)處理中,高效處理HTTP請(qǐng)求是關(guān)鍵挑戰(zhàn)之一,本文將結(jié)合Python異步IO(asyncio)和多線程技術(shù),探討如何優(yōu)化請(qǐng)求處理邏輯,解決常見(jiàn)的線程事件循環(huán)問(wèn)題,有需要的小伙伴可以根據(jù)需求進(jìn)行選擇

引言

在現(xiàn)代Web開(kāi)發(fā)和數(shù)據(jù)處理中,高效處理HTTP請(qǐng)求是關(guān)鍵挑戰(zhàn)之一。特別是在需要查詢大量手機(jī)號(hào)訂單信息的場(chǎng)景中,傳統(tǒng)的同步請(qǐng)求方式往往性能低下。本文將結(jié)合Python異步IO(asyncio)和多線程技術(shù),探討如何優(yōu)化請(qǐng)求處理邏輯,解決常見(jiàn)的線程事件循環(huán)問(wèn)題,并提供Java對(duì)比實(shí)現(xiàn)方案。

1. 問(wèn)題背景

1.1 需求場(chǎng)景

我們需要實(shí)現(xiàn)一個(gè)手機(jī)號(hào)訂單查詢系統(tǒng):

  • 輸入手機(jī)號(hào)前綴和后綴,查詢可能的完整號(hào)碼
  • 調(diào)用快遞API檢查這些號(hào)碼是否有訂單
  • 三級(jí)匹配策略(精確匹配→同省匹配→全國(guó)匹配)

1.2 遇到的問(wèn)題

[ERROR] There is no current event loop in thread 'Thread-4'

這是典型的異步代碼在子線程中運(yùn)行導(dǎo)致的問(wèn)題,因?yàn)镻ython的asyncio默認(rèn)只在主線程創(chuàng)建事件循環(huán)。

2. Python解決方案

2.1 同步與異步的抉擇

方案1:純異步實(shí)現(xiàn)(推薦)

import aiohttp
import asyncio

async def has_orders_async(phone, cookie, timestamp):
    async with aiohttp.ClientSession(cookies={'session': cookie}) as session:
        async with session.get(f'https://api.example.com/orders?phone={phone}') as resp:
            data = await resp.json()
            return data['total'] > 0

# 批量查詢
async def batch_check(phones):
    tasks = [has_orders_async(p) for p in phones]
    return await asyncio.gather(*tasks)

優(yōu)點(diǎn):

  • 無(wú)GIL限制,適合IO密集型任務(wù)
  • 單線程即可實(shí)現(xiàn)高并發(fā)

方案2:多線程+異步適配

from concurrent.futures import ThreadPoolExecutor

def async_to_sync(async_func):
    """裝飾器:異步函數(shù)轉(zhuǎn)同步"""
    def wrapper(*args, kwargs):
        loop = asyncio.new_event_loop()
        try:
            return loop.run_until_complete(async_func(*args, kwargs))
        finally:
            loop.close()
    return wrapper

@async_to_sync
async def has_orders_sync(phone, cookie, timestamp):
    # 同方案1的異步實(shí)現(xiàn)
    pass

def thread_pool_check(phones, workers=4):
    with ThreadPoolExecutor(workers) as executor:
        return list(executor.map(has_orders_sync, phones))

適用場(chǎng)景:

  • 需要兼容舊版同步代碼
  • CPU密集型+IO混合任務(wù)

2.2 三級(jí)匹配策略優(yōu)化

strategies = [
    {
        "name": "精確匹配", 
        "query": lambda: query_by_city(prefix, suffix, city)
    },
    {
        "name": "同省匹配",
        "query": lambda: query_by_province(prefix, suffix, province)
    },
    {
        "name": "全國(guó)匹配",
        "query": lambda: query_nationwide(prefix, suffix)
    }
]

???????async def hierarchical_match(prefix, suffix):
    for strategy in strategies:
        phones = await strategy["query"]()
        if not phones:
            continue
            
        results = await batch_check(phones)
        if any(results):
            return phones[results.index(True)]

3. Java對(duì)比實(shí)現(xiàn)

3.1 CompletableFuture異步處理

import java.net.http.*;
import java.util.concurrent.*;

public class OrderChecker {
    private static final HttpClient httpClient = HttpClient.newHttpClient();

    public static CompletableFuture<Boolean> hasOrder(String phone, String cookie) {
        HttpRequest request = HttpRequest.newBuilder()
            .uri(URI.create("https://api.example.com/orders?phone=" + phone))
            .header("Cookie", "session=" + cookie)
            .build();

        return httpClient.sendAsync(request, HttpResponse.BodyHandlers.ofString())
            .thenApply(response -> {
                JsonObject json = JsonParser.parseString(response.body()).getAsJsonObject();
                return json.get("total").getAsInt() > 0;
            });
    }

    public static CompletableFuture<String> batchCheck(List<String> phones) {
        List<CompletableFuture<Pair<String, Boolean>>> futures = phones.stream()
            .map(phone -> hasOrder(phone).thenApply(result -> Pair.of(phone, result)))
            .collect(Collectors.toList());

        return CompletableFuture.anyOf(futures.toArray(new CompletableFuture[0]))
            .thenApply(firstResult -> ((Pair<String, Boolean>) firstResult).getKey());
    }
}

3.2 線程池實(shí)現(xiàn)

ExecutorService executor = Executors.newFixedThreadPool(4);

List<Future<Boolean>> results = phones.stream()
    .map(phone -> executor.submit(() -> {
        // 同步HTTP請(qǐng)求實(shí)現(xiàn)
        return checkOrderSync(phone, cookie);
    }))
    .collect(Collectors.toList());

String matchedPhone = results.stream()
    .filter(future -> {
        try {
            return future.get();
        } catch (Exception e) {
            return false;
        }
    })
    .findFirst()
    .orElse(null);

4. 性能對(duì)比

方案QPS(實(shí)測(cè)值)CPU占用代碼復(fù)雜度
Python純同步1230%★★☆
Python多線程+異步8570%★★★★
Python純異步21040%★★★☆
Java異步HTTP18050%★★★☆

5. 最佳實(shí)踐建議

Python項(xiàng)目:

  • 優(yōu)先使用純異步方案(aiohttp+asyncio)
  • 需要阻塞操作時(shí)用asyncio.to_thread

Java項(xiàng)目:

  • 使用HttpClient+CompletableFuture
  • 避免混合使用線程池和NIO

通用優(yōu)化:

# 連接池配置
connector = aiohttp.TCPConnector(limit=100, force_close=True)
session = aiohttp.ClientSession(connector=connector)

錯(cuò)誤處理:

// Java重試機(jī)制
.handle((result, ex) -> {
    if (ex != null) {
        return retry(phone);
    }
    return result;
})

結(jié)語(yǔ)

通過(guò)合理選擇異步/多線程方案,我們實(shí)現(xiàn)了:

  • Python版性能提升17.5倍
  • 代碼可維護(hù)性顯著增強(qiáng)
  • 為系統(tǒng)擴(kuò)展留下空間

最終建議:新項(xiàng)目首選異步架構(gòu),遺留系統(tǒng)采用漸進(jìn)式改造。無(wú)論P(yáng)ython還是Java,理解底層事件循環(huán)機(jī)制都是高效開(kāi)發(fā)的關(guān)鍵。

以上就是Python結(jié)合多線程與協(xié)程實(shí)現(xiàn)高效異步請(qǐng)求處理的詳細(xì)內(nèi)容,更多關(guān)于Python異步請(qǐng)求處理的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!

相關(guān)文章

  • Django添加bootstrap框架時(shí)無(wú)法加載靜態(tài)文件的解決方式

    Django添加bootstrap框架時(shí)無(wú)法加載靜態(tài)文件的解決方式

    這篇文章主要介紹了Django添加bootstrap框架時(shí)無(wú)法加載靜態(tài)文件的解決方式,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
    2020-03-03
  • Pyqt QImage 與 np array 轉(zhuǎn)換方法

    Pyqt QImage 與 np array 轉(zhuǎn)換方法

    今天小編就為大家分享一篇Pyqt QImage 與 np array 轉(zhuǎn)換方法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
    2019-06-06
  • 十條建議幫你提高Python編程效率

    十條建議幫你提高Python編程效率

    這篇文章主要為大家介紹了十條建議,可以幫你提高Python編程效率的10條,想要提升提高Python編程效率的朋友不要錯(cuò)過(guò)
    2016-02-02
  • python+Django+apache的配置方法詳解

    python+Django+apache的配置方法詳解

    這篇文章主要介紹了python+Django+apache的配置方法,詳細(xì)分析了python+Django+apache的安裝與配置步驟,并分析了相關(guān)注意事項(xiàng),具有一定參考借鑒價(jià)值,需要的朋友可以參考下
    2016-06-06
  • Python如何實(shí)現(xiàn)游戲中的推送通知與消息

    Python如何實(shí)現(xiàn)游戲中的推送通知與消息

    文章介紹了如何使用Python構(gòu)建高效的游戲消息推送系統(tǒng),包括使用異步IO和事件驅(qū)動(dòng)編程,以及與Redis、WebSocket等技術(shù)的結(jié)合,文章還強(qiáng)調(diào)了安全性和用戶體驗(yàn)的重要性,并提供了性能優(yōu)化的建議
    2025-01-01
  • python中的?sorted()函數(shù)和sort()方法區(qū)別

    python中的?sorted()函數(shù)和sort()方法區(qū)別

    這篇文章主要介紹了python中的?sorted()函數(shù)和sort()方法,首先看sort()方法,sort方法只能對(duì)列表進(jìn)行操作,而sorted可用于所有的可迭代對(duì)象。具體內(nèi)容需要的小伙伴可以參考下面章節(jié)
    2022-02-02
  • 快速查找Python安裝路徑方法

    快速查找Python安裝路徑方法

    這篇文章主要介紹了快速查找Python安裝路徑方法,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
    2020-02-02
  • pytyon 帶有重復(fù)的全排列

    pytyon 帶有重復(fù)的全排列

    輸入開(kāi)始排列數(shù)字和結(jié)束排列數(shù)字, 就會(huì)一個(gè)字典序輸出所以的排列情況
    2013-08-08
  • Python+Pygame實(shí)現(xiàn)神廟逃亡游戲

    Python+Pygame實(shí)現(xiàn)神廟逃亡游戲

    這篇文章主要為大家介紹了如何利用Python和Pygame動(dòng)畫(huà)制作一個(gè)神廟逃亡類似的小游戲。文中的示例代碼講解詳細(xì),感興趣的小伙伴可以動(dòng)手嘗試一下
    2022-05-05
  • 對(duì)python 樹(shù)狀嵌套結(jié)構(gòu)的實(shí)現(xiàn)思路詳解

    對(duì)python 樹(shù)狀嵌套結(jié)構(gòu)的實(shí)現(xiàn)思路詳解

    今天小編就為大家分享一篇對(duì)python 樹(shù)狀嵌套結(jié)構(gòu)的實(shí)現(xiàn)思路詳解,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
    2019-08-08

最新評(píng)論