詳解配置Django的Celery異步之路踩坑
人生苦短,我用python。
看到這句話的時候,感覺可能確實是很深得人心,不過每每想學(xué)學(xué),就又止步,年紀(jì)大了,感覺學(xué)什么東西都很慢,很難,精神啊注意力啊思維啊都跟不上。今天奶牛來分享自己今天踩的一個坑。
先說說配置過程吧,初學(xué)Django,啥都不懂,當(dāng)然,python也很水,啥東西都得現(xiàn)查現(xiàn)用。Django安裝還是很簡單的。
apt-get install python3 pip3 install django
嗯,就是兩條命令的事兒。
再說celery的安裝:
pip3 install celery pip3 install redis==2.10.6
目前奶牛所在的時間redis for python的版本是redis-3.0.1,為什么要用2.10.6呢?因為3.0.1壓根配置就無法運行?。?!
繼續(xù)安裝redis server
apt-get install redis service redis start
然后就可以按照celery的官方教程走了,放個URL:http://docs.celeryproject.org/en/latest/django/index.html
python3 manage.py startproject nenew cd nenew python3 manage.py startapp nenewapp touch ./nenew/celery.py touch ./nenewapp/tasks.py
然后增加nenew/nenew/celery.py內(nèi)容為
from __future__ import absolute_import, unicode_literals import os from celery import Celery # set the default Django settings module for the 'celery' program. os.environ.setdefault('DJANGO_SETTINGS_MODULE', 'nenew.settings') app = Celery('nenew') # Using a string here means the worker doesn't have to serialize # the configuration object to child processes. # - namespace='CELERY' means all celery-related configuration keys # should have a `CELERY_` prefix. app.config_from_object('django.conf:settings', namespace='CELERY') # Load task modules from all registered Django app configs. app.autodiscover_tasks() @app.task(bind=True) def debug_task(self): print('Request: {0!r}'.format(self.request))
增加nenew/nenew/__init__.py的內(nèi)容
from __future__ import absolute_import, unicode_literals # This will make sure the app is always imported when # Django starts so that shared_task will use this app. from .celery import app as celery_app __all__ = ('celery_app',)
增加nenew/nenewtest/tasks.py的內(nèi)容
# Create your tasks here from __future__ import absolute_import, unicode_literals from celery import shared_task @shared_task def add(x, y): return x + y @shared_task def mul(x, y): return x * y @shared_task def xsum(numbers): return sum(numbers)
在nenew/nenew/settings.py中增加和修改
... ALLOWED_HOSTS = ['*'] .... INSTALLED_APPS = [ ... 'nenewtest', ] ... CELERY_BROKER_URL = 'redis://localhost:6379/1' CELERY_RESULT_BACKEND = ‘redis://localhost:6379/0'
在nenew/nenewtest/views.py中增加或修改為
from django.shortcuts import render from django.http import HttpResponse from .tasks import add # Create your views here. def nenewtest(request): result = add.delay('2','2') result.ready() return HttpResponse('nenew Django Celery worker run !')
最后把views添加到nenew/nenew/urls.py中
from django.contrib import admin from django.urls import path from nenewtest import views urlpatterns = [ path('admin/', admin.site.urls), path('test/', views.nenewtest), ]
然后在項目目錄nenew執(zhí)行
celery -A nenew worker -l info
這時候worker啟動正常會顯示:
-------------- <a href="/cdn-cgi/l/email-protection" rel="external nofollow" data-cfemail="2c4f4940495e556c424942495b">[email protected]</a> v4.2.1 (windowlicker)
---- **** -----
--- * *** * -- Linux-4.15.0-39-generic-x86_64-with-Ubuntu-18.04-bionic 2018-11-23 17:31:25
-- * - **** ---
- ** ---------- [config]
- ** ---------- .> app: nenew:0x7fdc5a155cc0
- ** ---------- .> transport: redis://localhost:6379/1
- ** ---------- .> results: redis://localhost:6379/0
- *** --- * --- .> concurrency: 1 (prefork)
-- ******* ---- .> task events: OFF (enable -E to monitor tasks in this worker)
--- ***** -----
-------------- [queues]
.> celery exchange=celery(direct) key=celery
這樣類似的信息,然后我們啟動項目,這里需要新開一個shell:
python3 manage.py runserver 0:80
這樣我們就可以通過80端口直接訪問我們的web了。地址是http://locahost/test
當(dāng)我們這里訪問正常后,在worker界面會有
[2018-11-23 18:09:19,469: INFO/MainProcess] Received task: nenewtest.tasks.add[35faa0fe-dd48-4f8d-9559-516556a93a40]
[2018-11-23 18:09:19,470: INFO/ForkPoolWorker-1] Task nenewtest.tasks.add[35faa0fe-dd48-4f8d-9559-516556a93a40] succeeded in 0.00031037399821798317s: '22'
如下語句表示執(zhí)行成功,這樣子就表示通過Django的網(wǎng)頁我們對celery任務(wù)的異步執(zhí)行成功。
當(dāng)然,按照我的方法是可以一步成功的,因為奶牛已經(jīng)踩了一整天的坑了,被一個錯誤郁悶得不要不要的。
AttributeError: 'float' object has no attribute 'items'
就是這個錯誤,查遍國內(nèi)的所有網(wǎng)站都沒有結(jié)果,然后就去bing的國際版查,然后發(fā)現(xiàn)果然是有bug在啊,奶牛這一天浪費得可真是夠了。
這是celery的一個issue,在地址https://github.com/celery/celery/issues/5175 ,issue里面提及在2018/11/22日 it's fixed in kombu and celery master。問題的根源是celery對redis3的支持不好,補(bǔ)救方法是
Solution: Roll back redis with pip: pip install redis==2.10.6
然后在commit里面找到是對requirements/extras/redis.txt文件進(jìn)行版本限定。
-redis>=2.10.5 +redis>=2.10.5,<3
好了,踩坑總算結(jié)束了。畢竟是新手,很多問題可能就是潛意識認(rèn)為是自己的代碼有問題,實際。。。實際可能并不是這樣子,得多關(guān)注源碼的更迭和問題處理才好。
以上就是本文的全部內(nèi)容,希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
Selenium及python實現(xiàn)滾動操作多種方法
這篇文章主要介紹了Selenium及python實現(xiàn)滾動操作多種方法,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下2020-07-07windows下python 3.9 Numpy scipy和matlabplot的安裝教程詳解
這篇文章主要介紹了windows下python 3.9 Numpy scipy和matlabplot的安裝教程詳解,本文給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下2020-11-11六個Python編程最受用的內(nèi)置函數(shù)使用詳解
在日常的python編程中使用這幾個函數(shù)來簡化我們的編程工作,經(jīng)常使用能使編程效率大大地提高。本文為大家總結(jié)了六個Python編程最受用的內(nèi)置函數(shù),感興趣的可以了解一下2022-07-07Python3 用matplotlib繪制sigmoid函數(shù)的案例
這篇文章主要介紹了Python3 用matplotlib繪制sigmoid函數(shù)的案例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-12-12Python特性之列表推導(dǎo)式和生成器表達(dá)式詳解
這篇文章主要介紹了python語言的兩個非常有用的特性:列表推導(dǎo)式和生成器表達(dá)式,但是它們之間也有一些重要的區(qū)別,我們一起來看看吧2023-08-08Python中Scipy庫在信號處理中的應(yīng)用詳解
信號處理作為數(shù)字信號處理領(lǐng)域的關(guān)鍵技術(shù),涵蓋了從信號獲取、傳輸、存儲到最終應(yīng)用的一系列處理步驟,在這篇博客中,我們將深入探討Python中Scipy庫在信號處理領(lǐng)域的應(yīng)用,需要的朋友可以參考下2023-12-12