欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

在RedHat系Linux上部署Python的Celery框架的教程

 更新時(shí)間:2015年04月07日 10:14:43   投稿:goldensun  
這篇文章主要介紹了在RedHat系Linux上部署Python的Celery框架的教程, Celery是一個(gè)并行分布框架,擁有良好的I/O性能,需要的朋友可以參考下

 Celery (芹菜)是基于Python開(kāi)發(fā)的分布式任務(wù)隊(duì)列。它支持使用任務(wù)隊(duì)列的方式在分布的機(jī)器/進(jìn)程/線程上執(zhí)行任務(wù)調(diào)度。
架構(gòu)設(shè)計(jì)

201547101143510.png (758×496)

 Celery的架構(gòu)由三部分組成,消息中間件(message broker),任務(wù)執(zhí)行單元(worker)和任務(wù)執(zhí)行結(jié)果存儲(chǔ)(task result store)組成。

1. 消息中間件

    Celery本身不提供消息服務(wù),但是可以方便的和第三方提供的消息中間件集成。包括,RabbitMQ, Redis, MongoDB (experimental), Amazon SQS (experimental),CouchDB (experimental), SQLAlchemy (experimental),Django ORM (experimental), IronMQ

2.任務(wù)執(zhí)行單元

    Worker是Celery提供的任務(wù)執(zhí)行的單元,worker并發(fā)的運(yùn)行在分布式的系統(tǒng)節(jié)點(diǎn)中。

3.任務(wù)結(jié)果存儲(chǔ)

    Task result store用來(lái)存儲(chǔ)Worker執(zhí)行的任務(wù)的結(jié)果,Celery支持以不同方式存儲(chǔ)任務(wù)的結(jié)果,包括AMQP, Redis,memcached, MongoDB,SQLAlchemy, Django ORM,Apache Cassandra, IronCache

另外, Celery還支持不同的并發(fā)和序列化的手段

1.并發(fā)

    Prefork, Eventlet, gevent, threads/single threaded

2.序列化

    pickle, json, yaml, msgpack. zlib, bzip2 compression, Cryptographic message signing 等等

安裝和運(yùn)行

Celery的安裝過(guò)程略為復(fù)雜,下面的安裝過(guò)程是基于我的AWS EC2的Linux版本的安裝過(guò)程,不同的系統(tǒng)安裝過(guò)程可能會(huì)有差異。大家可以參考官方文檔。

首先我選擇RabbitMQ作為消息中間件,所以要先安裝RabbitMQ。作為安裝準(zhǔn)備,先更新YUM。
 

sudo yum -y update

RabbitMQ是基于erlang的,所以先安裝erlang
 
# Add and enable relevant application repositories:
# Note: We are also enabling third party remi package repositories.
wget http://dl.fedoraproject.org/pub/epel/6/x86_64/epel-release-6-8.noarch.rpm
wget http://rpms.famillecollet.com/enterprise/remi-release-6.rpm
sudo rpm -Uvh remi-release-6*.rpm epel-release-6*.rpm
 
# Finally, download and install Erlang:
yum install -y erlang

然后安裝RabbitMQ
 

# Download the latest RabbitMQ package using wget:
wget 
# Add the necessary keys for verification:
rpm --import 
# Install the .RPM package using YUM:
yum install rabbitmq-server-3.2.2-1.noarch.rpm

啟動(dòng)RabbitMQ服務(wù)
 

rabbitmq-server start
RabbitMQ服務(wù)已經(jīng)準(zhǔn)備好了,然后安裝Celery, 假定你使用pip來(lái)管理你的python安裝包
pip install Celery

 

為了測(cè)試Celery是否工作,我們運(yùn)行一個(gè)最簡(jiǎn)單的任務(wù),編寫(xiě)tasks.py
 
from celery import Celery
 
app = Celery('tasks', backend='amqp', broker='amqp://guest@localhost//')
app.conf.CELERY_RESULT_BACKEND = 'db+sqlite:///results.sqlite'
 
@app.task
def add(x, y):
 return x + y

在當(dāng)前目錄運(yùn)行一個(gè)worker,用來(lái)執(zhí)行這個(gè)加法的task
 

celery -A tasks worker --loglevel=info

其中-A參數(shù)表示的是Celery App的名字。注意這里我使用的是SQLAlchemy作為結(jié)果存儲(chǔ)。對(duì)應(yīng)的python包要事先安裝好。

worker日志中我們會(huì)看到這樣的信息
 

- ** ---------- [config]
- ** ---------- .> app:   tasks:0x1e68d50
- ** ---------- .> transport: amqp://guest:**@localhost:5672//
- ** ---------- .> results:  db+sqlite:///results.sqlite
- *** --- * --- .> concurrency: 8 (prefork)

其中,我們可以看到worker缺省使用prefork來(lái)執(zhí)行并發(fā),并設(shè)置并發(fā)數(shù)為8

下面的任務(wù)執(zhí)行的客戶端代碼:
 

from tasks import add
import time
result = add.delay(4,4)
 
while not result.ready():
 print "not ready yet"
 time.sleep(5)
 
print result.get()

用python執(zhí)行這段客戶端代碼,在客戶端,結(jié)果如下
 

not ready 
8

Work日志顯示
 

[2015-03-12 02:54:07,973: INFO/MainProcess] Received task: tasks.add[34c4210f-1bc5-420f-a421-1500361b914f]
[2015-03-12 02:54:08,006: INFO/MainProcess] Task tasks.add[34c4210f-1bc5-420f-a421-1500361b914f] succeeded in 0.0309705100954s: 8

這里我們可以發(fā)現(xiàn),每一個(gè)task有一個(gè)唯一的ID,task異步執(zhí)行在worker上。

這里要注意的是,如果你運(yùn)行官方文檔中的例子,你是無(wú)法在客戶端得到結(jié)果的,這也是我為什么要使用SQLAlchemy來(lái)存儲(chǔ)任務(wù)執(zhí)行結(jié)果的原因。官方的例子使用AMPQ,有可能Worker在打印日志的時(shí)候取出了task的運(yùn)行結(jié)果顯示在worker日志中,然而AMPQ作為一個(gè)消息隊(duì)列,當(dāng)消息被取走后,隊(duì)列中就沒(méi)有了,于是客戶端總是無(wú)法得到任務(wù)的執(zhí)行結(jié)果。不知道為什么官方文檔對(duì)這樣的錯(cuò)誤視而不見(jiàn)。

如果大家想要對(duì)Celery做更進(jìn)一步的了解,請(qǐng)參考官方文檔

相關(guān)文章

  • Python中的閉包實(shí)例詳解

    Python中的閉包實(shí)例詳解

    這篇文章主要介紹了Python中的閉包,針對(duì)閉包的定義、用法及注意事項(xiàng)進(jìn)行了實(shí)例講解,有助于讀者深入理解閉包的概念及用法,需要的朋友可以參考下
    2014-08-08
  • python用selenium打開(kāi)瀏覽器后秒關(guān)閉瀏覽器的解決辦法

    python用selenium打開(kāi)瀏覽器后秒關(guān)閉瀏覽器的解決辦法

    最近朋友在學(xué)Selenium的時(shí)候遇到一個(gè)問(wèn)題,當(dāng)執(zhí)行完selenium程序后,瀏覽器會(huì)閃退也就是自動(dòng)關(guān)閉,這篇文章主要給大家介紹了關(guān)于python用selenium打開(kāi)瀏覽器后秒關(guān)閉瀏覽器的解決辦法,需要的朋友可以參考下
    2023-07-07
  • Python 讀取 YUV(NV12) 視頻文件實(shí)例

    Python 讀取 YUV(NV12) 視頻文件實(shí)例

    今天小編就為大家分享一篇Python 讀取 YUV(NV12) 視頻文件實(shí)例,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
    2019-12-12
  • Python中for循環(huán)控制語(yǔ)句用法實(shí)例

    Python中for循環(huán)控制語(yǔ)句用法實(shí)例

    這篇文章主要介紹了Python中for循環(huán)控制語(yǔ)句用法,較為詳細(xì)的分析了for循環(huán)語(yǔ)句的原理與相關(guān)使用技巧,需要的朋友可以參考下
    2015-06-06
  • Python基礎(chǔ)知識(shí)方法重寫(xiě)+文件處理+異常處理

    Python基礎(chǔ)知識(shí)方法重寫(xiě)+文件處理+異常處理

    這篇文章主要介紹了Python基礎(chǔ)知識(shí)方法重寫(xiě)+文件處理+異常處理,這是基礎(chǔ)知識(shí)分享的第四篇,看到這里了相信大家前幾篇都學(xué)得還不錯(cuò)吧,下面我們繼續(xù)鞏固Python基礎(chǔ)知識(shí),需要的朋友也可以參考一下
    2022-05-05
  • python如何求解兩數(shù)的最大公約數(shù)

    python如何求解兩數(shù)的最大公約數(shù)

    這篇文章主要為大家詳細(xì)介紹了python如何求解兩數(shù)的最大公約數(shù),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下
    2018-09-09
  • pycharm sciview的圖片另存為操作

    pycharm sciview的圖片另存為操作

    這篇文章主要介紹了pycharm sciview的圖片另存為操作,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
    2020-06-06
  • python實(shí)現(xiàn)順序表的簡(jiǎn)單代碼

    python實(shí)現(xiàn)順序表的簡(jiǎn)單代碼

    這篇文章主要為大家詳細(xì)介紹了順序表定義及python實(shí)現(xiàn)代碼,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下
    2018-09-09
  • python修改全局變量可以不加global嗎?

    python修改全局變量可以不加global嗎?

    這篇文章主要探討的是python修改全局變量可不可以不加global,我們?cè)诰植孔饔糜騼?nèi)使用全局變量,需要使用global關(guān)鍵字進(jìn)行聲明,不然便不可用,但下面小編就和大家分享可以修改的數(shù)據(jù)類型在函數(shù)內(nèi)部做修改操作是不需要聲明global的商務(wù)情況,需要的朋友可以參考下
    2022-02-02
  • 各種Python庫(kù)安裝包下載地址與安裝過(guò)程詳細(xì)介紹(Windows版)

    各種Python庫(kù)安裝包下載地址與安裝過(guò)程詳細(xì)介紹(Windows版)

    這篇文章主要介紹了Windows版的各種Python庫(kù)安裝包下載地址與安裝過(guò)程詳細(xì)介紹,本文給大家提供了windows版的各種Python庫(kù)安裝包下載地址等相關(guān)知識(shí),非常不錯(cuò)具有參考借鑒價(jià)值,需要的朋友可以參考下
    2016-11-11

最新評(píng)論