import requests
 
#Search 1
solrResp = requests.get('http://mysolr.com/solr/statedecoded/search?q=law')
 
for doc in solrResp.json()['response']['docs']:
  print doc['catch_line']
 
#Search 2
solrResp = requests.get('http://mysolr.com/solr/statedecoded/search?q=shoplifting')
 
for doc in solrResp.json()['response']['docs']:
  print doc['catch_line']

（我們用Requests庫(kù)進(jìn)行http請(qǐng)求）

通過(guò)腳本把文檔索引到Solr，進(jìn)而可以并行工作是很好的。我需要擴(kuò)展我的工作，因此索引瓶頸是Solr,而不是網(wǎng)絡(luò)請(qǐng)求。

不幸的是，當(dāng)進(jìn)行異步編程時(shí)python不像Javascript或Go那樣方便。但是，gevent庫(kù)能給我們帶來(lái)些幫助。gevent底層用的是libevent庫(kù)，構(gòu)建于原生異步調(diào)用（select, poll等原始異步調(diào)用），libevent很好的協(xié)調(diào)很多低層的異步功能。

使用gevent很簡(jiǎn)單，讓人糾結(jié)的一點(diǎn)就是thegevent.monkey.patch_all()，為更好的與gevent的異步協(xié)作，它修補(bǔ)了很多標(biāo)準(zhǔn)庫(kù)。聽(tīng)起來(lái)很恐怖，但是我還沒(méi)有在使用這個(gè)補(bǔ)丁實(shí)現(xiàn)時(shí)遇到問(wèn)題。

事不宜遲，下面就是你如果用gevents來(lái)并行Solr請(qǐng)求：

import requests
from gevent import monkey
import gevent
monkey.patch_all()
 
 
class Searcher(object):
  """ Simple wrapper for doing a search and collecting the
    results """
  def __init__(self, searchUrl):
    self.searchUrl = searchUrl
 
  def search(self):
    solrResp = requests.get(self.searchUrl)
    self.docs = solrResp.json()['response']['docs']
 
 
def searchMultiple(urls):
  """ Use gevent to execute the passed in urls;
    dump the results"""
  searchers = [Searcher(url) for url in urls]
 
  # Gather a handle for each task
  handles = []
  for searcher in searchers:
    handles.append(gevent.spawn(searcher.search))
 
  # Block until all work is done
  gevent.joinall(handles)
 
  # Dump the results
  for searcher in searchers:
    print "Search Results for %s" % searcher.searchUrl
    for doc in searcher.docs:
      print doc['catch_line']
 
searchUrls = ['http://mysolr.com/solr/statedecoded/search?q=law',
       'http://mysolr.com/solr/statedecoded/search?q=shoplifting']

searchMultiple(searchUrls)
代碼增加了，而且不如相同功能的Javascript代碼簡(jiǎn)潔，但是它能完成相應(yīng)的工作，代碼的精髓是下面幾行：

# Gather a handle for each task
handles = []
for searcher in searchers:
  handles.append(gevent.spawn(searcher.search))
 
# Block until all work is done
gevent.joinall(handles)

我們讓gevent產(chǎn)生searcher.search, 我們可以對(duì)產(chǎn)生的任務(wù)進(jìn)行操作，然后我們可以隨意的等著所有產(chǎn)生的任務(wù)完成，最后導(dǎo)出結(jié)果。

差不多就這樣子.如果你有任何想法請(qǐng)給我們留言。讓我們知道我們?nèi)绾文転槟愕腟olr搜索應(yīng)用提供幫助。

您可能感興趣的文章: