詳解Django中異步任務(wù)之django-celery
Celery文檔參考:http://docs.jinkan.org/docs/celery/
參考文章:http://www.dbjr.com.cn/article/158046.htm
Django中異步任務(wù)---django-celery
Celery簡單介紹:
celery使用場景:
- 耗時(shí)任務(wù)定時(shí)任務(wù)
- 請求結(jié)果不怎么重要的
- 耗時(shí)任務(wù)比如:發(fā)送短信驗(yàn)證碼我們可以先發(fā)送給客戶任務(wù)狀態(tài)(請求成功或失敗)
- 請求結(jié)果重要的建議使用django實(shí)現(xiàn) 比如:支付
首先簡單介紹一下,Celery 是一個(gè)強(qiáng)大的分布式任務(wù)隊(duì)列,它可以讓任務(wù)的執(zhí)行完全脫離主程序,甚至可以被分配到其他主機(jī)上運(yùn)行。我們通常使用它來實(shí)現(xiàn)異步任務(wù)(asynctask)和定時(shí)任務(wù)(crontab)。它的架構(gòu)組成如下圖
Celery 主要包含以下幾個(gè)模塊:
任務(wù)模塊 Task
包含異步任務(wù)和定時(shí)任務(wù)。其中,異步任務(wù)通常在業(yè)務(wù)邏輯中被觸發(fā)并發(fā)往任務(wù)隊(duì)列,而定時(shí)任務(wù)由 Celery Beat 進(jìn)程周期性地將任務(wù)發(fā)往任務(wù)隊(duì)列。
消息中間件 Broker
Broker,即為任務(wù)調(diào)度隊(duì)列,接收任務(wù)生產(chǎn)者發(fā)來的消息(即任務(wù)),將任務(wù)存入隊(duì)列。Celery 本身不提供隊(duì)列服務(wù),官方推薦使用 RabbitMQ 和 Redis 等。
任務(wù)執(zhí)行單元 Worker
Worker 是執(zhí)行任務(wù)的處理單元,它實(shí)時(shí)監(jiān)控消息隊(duì)列,獲取隊(duì)列中調(diào)度的任務(wù),并執(zhí)行它。
任務(wù)結(jié)果存儲 Backend
Backend 用于存儲任務(wù)的執(zhí)行結(jié)果,以供查詢。同消息中間件一樣,存儲也可使用 RabbitMQ, Redis 和 MongoDB 等。
p>django-celery
首先需要統(tǒng)一一下使用的環(huán)境,以為如果redis的版本過高會報(bào)錯(cuò)
解決方法:建議降低redis版本
推薦版本
Django == 2.2.6
django-celery == 3.3.1
django-redis == 4.11.0
redis == 2.10.6
celery == 3.1.26.post2
依賴安裝:pip install .....人都知道
1.修改setting.py django配置文件,增加如下:
import djcelery ###導(dǎo)包 djcelery.setup_loader() ### BROKER_URL = 'redis://127.0.0.1:6379/2' # BROKER_URL='redis://192.168.217.77:16379/2' #任何可用的redis都可以,不一定要在django server運(yùn)行的主機(jī)上 CELERYBEAT_SCHEDULER = 'djcelery.schedulers.DatabaseScheduler' ### INSTALLED_APPS = [ ... "djcelery", # 加入djcelery應(yīng)用 ... ] CELERY_TIMEZONE='Asia/Shanghai' #并沒有北京時(shí)區(qū),與下面TIME_ZONE應(yīng)該一致 TIME_ZONE='Asia/Shanghai' #
開頭增加如上配置文件,根據(jù)實(shí)際情況配置redis的地址和端口,時(shí)區(qū)一定要設(shè)置為Asia/Shanghai
。否則時(shí)間不準(zhǔn)確回影響定時(shí)任務(wù)的運(yùn)行。
上面代碼首先導(dǎo)出djcelery模塊,并調(diào)用setup_loader方法加載有關(guān)配置;注意配置時(shí)區(qū),不然默認(rèn)使用UTC時(shí)間會比東八區(qū)慢8個(gè)小時(shí)。其中INSTALLED_APPS末尾添加兩項(xiàng),分別表示添加celery服務(wù)和自己定義的apps服務(wù)。
2.創(chuàng)建Celery所需的數(shù)據(jù)表
python manage.py migrate #如若不成功可以嘗試一下命令語句 #python manage.py syncdb
3.創(chuàng)建task
stasks.py
# -*- coding: utf-8 -*- import json, time from syl.settings import ALY_ACCESSKEY_ID, ALY_ACCESSKEY_SECRET from aliyunsdkcore.client import AcsClient from aliyunsdkcore.request import CommonRequest from celery import task # 阿里云短信驗(yàn)證碼 @task def Celery_Send_Sms(phone, data): client = AcsClient(ALY_ACCESSKEY_ID, ALY_ACCESSKEY_SECRET, 'cn-hangzhou') request = CommonRequest() request.set_accept_format('json') request.set_domain('dysmsapi.aliyuncs.com') request.set_method('POST') request.set_protocol_type('https') # https | http request.set_version('2017-05-25') request.set_action_name('SendSms') request.add_query_param('RegionId', "cn-hangzhou") request.add_query_param('PhoneNumbers', phone) request.add_query_param('SignName', "美多商城") request.add_query_param('TemplateCode', "SMS_205397849") request.add_query_param('TemplateParam', data) response = client.do_action(request) time.sleep(10) print(str(response, encoding='utf-8')) res = json.loads(str(response, encoding='utf-8')) #celery運(yùn)行命令 # python manage.py celery worker --loglevel=info
- settings.py中的djcelery.setup_loader()運(yùn)行時(shí), Celery便會查看所有INSTALLED_APPS中app目錄中的tasks.py文件, 找到標(biāo)記為task的function, 并將它們注冊為celery task.
- 在執(zhí)行djcelery.setup_loader()時(shí), task是以INSTALLED_APPS中的app名, 加.tasks.function_name注冊的
- 一次需要注意 在impprt task時(shí), 需要保持一致
- 如果我們由于python path不同而使用不同的引用方式時(shí)(例如在tasks.py中使用from myproject.myapp.tasks import add形式), Celery將無法得知這是同一task, 因此可能會引起奇怪的bug。
讓任務(wù)變成異步
例如我們希望在用戶發(fā)出request后異步執(zhí)行該task, 馬上返回response, 從而不阻塞該request, 使用戶有一個(gè)流暢的訪問過程. 那么, 我們可以使用.delay。
views.py
import re import random from rest_framework.permissions import AllowAny from django_redis import get_redis_connection from rest_framework.views import APIView from rest_framework.response import Response # from utils.MyBaseView import send_message, Send_Sms from verifications.stasks import Celery_Send_Sms # 用戶注冊短信驗(yàn)證碼 class SmsCodeView(APIView): '''使用apiview的限流''' # 1. 所有人可以訪問 permission_classes = (AllowAny,) def post(self, request): # 1. 獲取參數(shù) phone = request.data.get('phone') # 手機(jī)號 image_code = request.data.get('image_code') # 字符串驗(yàn)證碼 image_code_uuid = request.data.get('image_code_uuid') # 前端生成的uuid,是redis中圖片驗(yàn)證碼的key # 2. 檢查參數(shù) if not all([phone, image_code, image_code_uuid]): return Response({'code': 400, 'msg': '參數(shù)不全'}) # 檢查手機(jī)號是否正確 if not re.match(r'^1[3456789]\d{9}$', phone): return Response({"code": 999, "msg": "手機(jī)號碼不正確"}) # 3. 檢查是否發(fā)送 redis_client = get_redis_connection('img_code') # 連接redis數(shù)據(jù)庫 # phone_exists = redis_client.get(phone) # if phone_exists: # return Response({"code": 999, "msg": "頻繁發(fā)送, 請稍后再試"}) # 4.檢查圖片驗(yàn)證碼是否合法 redis_image_code = redis_client.get(image_code_uuid) # 字符串驗(yàn)證碼 if redis_image_code: # bytes 轉(zhuǎn)成 string redis_image_code = redis_image_code.decode() # 把uuid解碼 # 比較用戶提供的圖片內(nèi)容是否和redis中保存的一致 if image_code.upper() != redis_image_code: return Response({'code': 999, 'msg': '圖片驗(yàn)證碼不正確'}) # 5. 發(fā)送 code = '%06d' % random.randint(100000, 999999) # 隨機(jī)6位驗(yàn)證碼 print('code===============================================', code) # 使用容聯(lián)云短信驗(yàn)證碼 # send_resp = send_message(phone, (code, "5")) # 使用阿里云短信驗(yàn)證碼 data = {'code': code} # send_resp = Send_Sms(phone, data) # 使用celery異步發(fā)送短信 Celery_Send_Sms.delay(phone, data) #delay是注冊為celery異步任務(wù)的關(guān)鍵點(diǎn) # Celery_Send_Sms(phone, data) # delay是注冊為celery異步任務(wù)的關(guān)鍵點(diǎn) # 5.1 保存code 到 redis中 redis_client.setex(phone, 60 * 5, code) # phone:code, 5分鐘有效期 # 5.2 從redis中刪除這個(gè)圖片驗(yàn)證碼, 以防再次被使用 redis_client.delete(image_code_uuid) # 6.存儲這個(gè)已經(jīng)發(fā)送驗(yàn)證碼的手機(jī)號,防止頻繁發(fā)送(使用pipeline 批量操作 ) pl = redis_client.pipeline() pl.setex(phone, 60 * 5, code) pl.delete(image_code_uuid) pl.execute() # 7. 返回結(jié)果 return Response({"code": 200, "msg": "短信發(fā)送成功"})
1.啟動(dòng)celery
首先正常啟動(dòng)你的django任務(wù),然后啟動(dòng)celery服務(wù)即可。
python manage.py celery worker --loglevel=info
出現(xiàn)上圖這個(gè)報(bào)錯(cuò)不讓超級管理員來啟動(dòng),在settings.py加入以下配置
from celery import Celery, platforms platforms.C_FORCE_ROOT = True
2.驗(yàn)證celery任務(wù)
在搞定上面的東西以后,你就可以通過postman來請求接口讓接口使用celery來異步執(zhí)行任務(wù)而不阻塞你的request請求。
到此這篇關(guān)于詳解Django中異步任務(wù)之django-celery的文章就介紹到這了,更多相關(guān)Django異步任務(wù)內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Python實(shí)現(xiàn)讀取文件最后n行的方法
這篇文章主要介紹了Python實(shí)現(xiàn)讀取文件最后n行的方法,涉及Python針對文件的讀取、遍歷與運(yùn)算相關(guān)操作技巧,需要的朋友可以參考下2017-02-02python中的exec()、eval()及complie()示例詳解
這篇文章主要介紹了python中的exec()、eval()及complie(),本文通過示例代碼給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2023-08-08在Python中字典根據(jù)多項(xiàng)規(guī)則排序的方法
今天小編就為大家分享一篇在Python中字典根據(jù)多項(xiàng)規(guī)則排序的方法,具有很好的參考價(jià)值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-01-01Django Path轉(zhuǎn)換器自定義及正則代碼實(shí)例
這篇文章主要介紹了Django Path轉(zhuǎn)換器自定義及正則代碼實(shí)例,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-05-05用TensorFlow實(shí)現(xiàn)戴明回歸算法的示例
這篇文章主要介紹了用TensorFlow實(shí)現(xiàn)戴明回歸算法的示例,小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過來看看吧2018-05-05django與vue的完美結(jié)合_實(shí)現(xiàn)前后端的分離開發(fā)之后在整合的方法
今天小編就為大家分享一篇django與vue的完美結(jié)合_實(shí)現(xiàn)前后端的分離開發(fā)之后在整合的方法,具有很好的參考價(jià)值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-08-08一篇文章帶你了解python標(biāo)準(zhǔn)庫--datetime模塊
這篇文章主要為大家介紹了python中的datetime模塊,datetime模塊的接口則更直觀、更容易調(diào)用,想要了解datetime模塊的朋友可以參考一下2021-08-08在Python中封裝GObject模塊進(jìn)行圖形化程序編程的教程
這篇文章主要介紹了在Python中封裝GObject模塊進(jìn)行圖形化程序編程的教程,本文來自于IBM官方網(wǎng)站技術(shù)文檔,需要的朋友可以參考下2015-04-04