欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

在Python的gevent框架下執(zhí)行異步的Solr查詢的教程

 更新時(shí)間:2015年04月16日 11:24:18   作者:Doug Turnbull  
這篇文章主要介紹了在Python的gevent框架下執(zhí)行異步的Solr查詢的教程,Solr請求在處理I/O方面較為高效,需要的朋友可以參考下

 我經(jīng)常需要用Python與solr進(jìn)行異步請求工作。這里有段代碼阻塞在Solr http請求上, 直到第一個(gè)完成才會(huì)執(zhí)行第二個(gè)請求,代碼如下:
 

import requests
 
#Search 1
solrResp = requests.get('http://mysolr.com/solr/statedecoded/search?q=law')
 
for doc in solrResp.json()['response']['docs']:
  print doc['catch_line']
 
#Search 2
solrResp = requests.get('http://mysolr.com/solr/statedecoded/search?q=shoplifting')
 
for doc in solrResp.json()['response']['docs']:
  print doc['catch_line']

(我們用Requests庫進(jìn)行http請求)

通過腳本把文檔索引到Solr, 進(jìn)而可以并行工作是很好的。我需要擴(kuò)展我的工作,因此索引瓶頸是Solr,而不是網(wǎng)絡(luò)請求。


不幸的是,當(dāng)進(jìn)行異步編程時(shí)python不像Javascript或Go那樣方便。但是,gevent庫能給我們帶來些幫助。gevent底層用的是libevent庫,構(gòu)建于原生異步調(diào)用(select, poll等原始異步調(diào)用),libevent很好的協(xié)調(diào)很多低層的異步功能。

使用gevent很簡單,讓人糾結(jié)的一點(diǎn)就是thegevent.monkey.patch_all(), 為更好的與gevent的異步協(xié)作,它修補(bǔ)了很多標(biāo)準(zhǔn)庫。聽起來很恐怖,但是我還沒有在使用這個(gè)補(bǔ)丁實(shí)現(xiàn)時(shí)遇到 問題。


事不宜遲,下面就是你如果用gevents來并行Solr請求:
 

import requests
from gevent import monkey
import gevent
monkey.patch_all()
 
 
class Searcher(object):
  """ Simple wrapper for doing a search and collecting the
    results """
  def __init__(self, searchUrl):
    self.searchUrl = searchUrl
 
  def search(self):
    solrResp = requests.get(self.searchUrl)
    self.docs = solrResp.json()['response']['docs']
 
 
def searchMultiple(urls):
  """ Use gevent to execute the passed in urls;
    dump the results"""
  searchers = [Searcher(url) for url in urls]
 
  # Gather a handle for each task
  handles = []
  for searcher in searchers:
    handles.append(gevent.spawn(searcher.search))
 
  # Block until all work is done
  gevent.joinall(handles)
 
  # Dump the results
  for searcher in searchers:
    print "Search Results for %s" % searcher.searchUrl
    for doc in searcher.docs:
      print doc['catch_line']
 
searchUrls = ['http://mysolr.com/solr/statedecoded/search?q=law',
       'http://mysolr.com/solr/statedecoded/search?q=shoplifting']

 
searchMultiple(searchUrls)
代碼增加了,而且不如相同功能的Javascript代碼簡潔,但是它能完成相應(yīng)的工作,代碼的精髓是下面幾行:
 

# Gather a handle for each task
handles = []
for searcher in searchers:
  handles.append(gevent.spawn(searcher.search))
 
# Block until all work is done
gevent.joinall(handles)

我們讓gevent產(chǎn)生searcher.search, 我們可以對產(chǎn)生的任務(wù)進(jìn)行操作,然后我們可以隨意的等著所有產(chǎn)生的任務(wù)完成,最后導(dǎo)出結(jié)果。

差不多就這樣子.如果你有任何想法請給我們留言。讓我們知道我們?nèi)绾文転槟愕腟olr搜索應(yīng)用提供幫助。

相關(guān)文章

  • Python中賦值運(yùn)算符的含義與使用方法

    Python中賦值運(yùn)算符的含義與使用方法

    賦值運(yùn)算符主要用來為變量(或常量)賦值,在使用時(shí),既可以直接用基本賦值運(yùn)算符“=”將右側(cè)的值賦給左側(cè)的變量,右側(cè)也可以在進(jìn)行某些運(yùn)算后再賦值給左側(cè)的變量,下面這篇文章主要給大家介紹了關(guān)于Python中賦值運(yùn)算符的含義與使用方法的相關(guān)資料,需要的朋友可以參考下
    2022-03-03
  • keras中的backend.clip用法

    keras中的backend.clip用法

    這篇文章主要介紹了keras中的backend.clip用法,具有很好的參考價(jià)值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2020-05-05
  • python 初始化一個(gè)定長的數(shù)組實(shí)例

    python 初始化一個(gè)定長的數(shù)組實(shí)例

    今天小編就為大家分享一篇python 初始化一個(gè)定長的數(shù)組實(shí)例,具有很好的參考價(jià)值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2019-12-12
  • Python自動(dòng)化測試?yán)鱯elenium詳解

    Python自動(dòng)化測試?yán)鱯elenium詳解

    Selenium是一種常用的Web自動(dòng)化測試工具,支持多種編程語言和多種瀏覽器,可以模擬用戶的交互行為,自動(dòng)化地執(zhí)行測試用例和生成測試報(bào)告。Selenium基于瀏覽器驅(qū)動(dòng)實(shí)現(xiàn),結(jié)合多種定位元素的方法,可以實(shí)現(xiàn)各種復(fù)雜的Web應(yīng)用程序的測試
    2023-04-04
  • python如何實(shí)現(xiàn)不用裝飾器實(shí)現(xiàn)登陸器小程序

    python如何實(shí)現(xiàn)不用裝飾器實(shí)現(xiàn)登陸器小程序

    這篇文章主要介紹了python如何實(shí)現(xiàn)不用裝飾器實(shí)現(xiàn)登陸器小程序,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下
    2019-12-12
  • python的dataframe和matrix的互換方法

    python的dataframe和matrix的互換方法

    下面小編就為大家分享一篇python的dataframe和matrix的互換方法,具有很好的參考價(jià)值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2018-04-04
  • Python?ChineseCalendar包主要類和方法詳解

    Python?ChineseCalendar包主要類和方法詳解

    ChineseCalendar?是一個(gè)?Python?包,用于獲取中國傳統(tǒng)日歷信息。這個(gè)包提供了中國農(nóng)歷、二十四節(jié)氣、傳統(tǒng)節(jié)日、黃歷等信息,這篇文章主要介紹了Python?ChineseCalendar包簡介,需要的朋友可以參考下
    2023-03-03
  • python實(shí)現(xiàn)查找excel里某一列重復(fù)數(shù)據(jù)并且剔除后打印的方法

    python實(shí)現(xiàn)查找excel里某一列重復(fù)數(shù)據(jù)并且剔除后打印的方法

    這篇文章主要介紹了python實(shí)現(xiàn)查找excel里某一列重復(fù)數(shù)據(jù)并且剔除后打印的方法,涉及Python使用xlrd模塊操作Excel的相關(guān)技巧,需要的朋友可以參考下
    2015-05-05
  • Python文本預(yù)處理學(xué)習(xí)指南

    Python文本預(yù)處理學(xué)習(xí)指南

    文本預(yù)處理是指在進(jìn)行自然語言處理(NLP)任務(wù)之前,對原始文本數(shù)據(jù)進(jìn)行清洗、轉(zhuǎn)換和標(biāo)準(zhǔn)化的過程,本文主要為大家介紹了文本預(yù)處理的使用,需要的可以參考下
    2023-07-07
  • python uuid模塊使用實(shí)例

    python uuid模塊使用實(shí)例

    這篇文章主要介紹了python uuid模塊使用實(shí)例,本文給出簡單使用示例,講解uuid1、uuid3、 uuid4、 uuid5這幾個(gè)方法,需要的朋友可以參考下
    2015-04-04

最新評論