在RedHat系Linux上部署Python的Celery框架的教程
Celery (芹菜)是基于Python開發(fā)的分布式任務(wù)隊列。它支持使用任務(wù)隊列的方式在分布的機器/進程/線程上執(zhí)行任務(wù)調(diào)度。
架構(gòu)設(shè)計
Celery的架構(gòu)由三部分組成,消息中間件(message broker),任務(wù)執(zhí)行單元(worker)和任務(wù)執(zhí)行結(jié)果存儲(task result store)組成。
1. 消息中間件
Celery本身不提供消息服務(wù),但是可以方便的和第三方提供的消息中間件集成。包括,RabbitMQ, Redis, MongoDB (experimental), Amazon SQS (experimental),CouchDB (experimental), SQLAlchemy (experimental),Django ORM (experimental), IronMQ
2.任務(wù)執(zhí)行單元
Worker是Celery提供的任務(wù)執(zhí)行的單元,worker并發(fā)的運行在分布式的系統(tǒng)節(jié)點中。
3.任務(wù)結(jié)果存儲
Task result store用來存儲Worker執(zhí)行的任務(wù)的結(jié)果,Celery支持以不同方式存儲任務(wù)的結(jié)果,包括AMQP, Redis,memcached, MongoDB,SQLAlchemy, Django ORM,Apache Cassandra, IronCache
另外, Celery還支持不同的并發(fā)和序列化的手段
1.并發(fā)
Prefork, Eventlet, gevent, threads/single threaded
2.序列化
pickle, json, yaml, msgpack. zlib, bzip2 compression, Cryptographic message signing 等等
安裝和運行
Celery的安裝過程略為復(fù)雜,下面的安裝過程是基于我的AWS EC2的Linux版本的安裝過程,不同的系統(tǒng)安裝過程可能會有差異。大家可以參考官方文檔。
首先我選擇RabbitMQ作為消息中間件,所以要先安裝RabbitMQ。作為安裝準備,先更新YUM。
sudo yum -y update
RabbitMQ是基于erlang的,所以先安裝erlang
# Add and enable relevant application repositories:
# Note: We are also enabling third party remi package repositories.
wget http://dl.fedoraproject.org/pub/epel/6/x86_64/epel-release-6-8.noarch.rpm
wget http://rpms.famillecollet.com/enterprise/remi-release-6.rpm
sudo rpm -Uvh remi-release-6*.rpm epel-release-6*.rpm
# Finally, download and install Erlang:
yum install -y erlang
然后安裝RabbitMQ
# Download the latest RabbitMQ package using wget: wget # Add the necessary keys for verification: rpm --import # Install the .RPM package using YUM: yum install rabbitmq-server-3.2.2-1.noarch.rpm
啟動RabbitMQ服務(wù)
rabbitmq-server start
pip install Celery
from celery import Celery app = Celery('tasks', backend='amqp', broker='amqp://guest@localhost//') app.conf.CELERY_RESULT_BACKEND = 'db+sqlite:///results.sqlite' @app.task def add(x, y): return x + y
在當前目錄運行一個worker,用來執(zhí)行這個加法的task
celery -A tasks worker --loglevel=info
其中-A參數(shù)表示的是Celery App的名字。注意這里我使用的是SQLAlchemy作為結(jié)果存儲。對應(yīng)的python包要事先安裝好。
worker日志中我們會看到這樣的信息
- ** ---------- [config] - ** ---------- .> app: tasks:0x1e68d50 - ** ---------- .> transport: amqp://guest:**@localhost:5672// - ** ---------- .> results: db+sqlite:///results.sqlite - *** --- * --- .> concurrency: 8 (prefork)
其中,我們可以看到worker缺省使用prefork來執(zhí)行并發(fā),并設(shè)置并發(fā)數(shù)為8
下面的任務(wù)執(zhí)行的客戶端代碼:
from tasks import add import time result = add.delay(4,4) while not result.ready(): print "not ready yet" time.sleep(5) print result.get()
用python執(zhí)行這段客戶端代碼,在客戶端,結(jié)果如下
not ready 8
Work日志顯示
[2015-03-12 02:54:07,973: INFO/MainProcess] Received task: tasks.add[34c4210f-1bc5-420f-a421-1500361b914f] [2015-03-12 02:54:08,006: INFO/MainProcess] Task tasks.add[34c4210f-1bc5-420f-a421-1500361b914f] succeeded in 0.0309705100954s: 8
這里我們可以發(fā)現(xiàn),每一個task有一個唯一的ID,task異步執(zhí)行在worker上。
這里要注意的是,如果你運行官方文檔中的例子,你是無法在客戶端得到結(jié)果的,這也是我為什么要使用SQLAlchemy來存儲任務(wù)執(zhí)行結(jié)果的原因。官方的例子使用AMPQ,有可能Worker在打印日志的時候取出了task的運行結(jié)果顯示在worker日志中,然而AMPQ作為一個消息隊列,當消息被取走后,隊列中就沒有了,于是客戶端總是無法得到任務(wù)的執(zhí)行結(jié)果。不知道為什么官方文檔對這樣的錯誤視而不見。
如果大家想要對Celery做更進一步的了解,請參考官方文檔
相關(guān)文章
python用selenium打開瀏覽器后秒關(guān)閉瀏覽器的解決辦法
最近朋友在學Selenium的時候遇到一個問題,當執(zhí)行完selenium程序后,瀏覽器會閃退也就是自動關(guān)閉,這篇文章主要給大家介紹了關(guān)于python用selenium打開瀏覽器后秒關(guān)閉瀏覽器的解決辦法,需要的朋友可以參考下2023-07-07各種Python庫安裝包下載地址與安裝過程詳細介紹(Windows版)
這篇文章主要介紹了Windows版的各種Python庫安裝包下載地址與安裝過程詳細介紹,本文給大家提供了windows版的各種Python庫安裝包下載地址等相關(guān)知識,非常不錯具有參考借鑒價值,需要的朋友可以參考下2016-11-11