django 實現(xiàn)celery動態(tài)設(shè)置周期任務(wù)執(zhí)行時間
藍(lán)鯨paas平臺app開發(fā)經(jīng)驗分享
騰訊藍(lán)鯨智云是一套基于PaaS的技術(shù)解決方案,提供了完善的前后臺開發(fā)框架、調(diào)度引擎、公共組件等模塊,幫助業(yè)務(wù)的產(chǎn)品和技術(shù)人員快速構(gòu)建低成本、免運維的支撐工具和運營系統(tǒng)。
PaaS平臺不僅將應(yīng)用服務(wù)的運行和開發(fā)環(huán)境作為一種服務(wù)提供給開發(fā)者用戶,更為開發(fā)者用戶提供了高效便捷的開發(fā)服務(wù),如:組件系統(tǒng),統(tǒng)一登錄,權(quán)限管理,后臺框架,MagicBox,桌面/工作臺等。
PaaS平臺提供支持多語言的開發(fā)框架,助力運維人員能基于平臺之上以自己擅長的技術(shù)語言(Python、java等)開發(fā)運維自動化工具。
通過了解PaaS的設(shè)計理念,運維人員能夠基于藍(lán)鯨的PaaS平臺,從零開始進(jìn)行SaaS應(yīng)用的實戰(zhàn)開發(fā),快速構(gòu)建企業(yè)運維/運營系統(tǒng),提升企業(yè)自動化水平。
開發(fā)背景
之前在一個銀行自動化運維項目中,客戶希望我們在藍(lán)鯨PaaS上開發(fā)一個數(shù)據(jù)庫巡檢SaaS。具體需求如下:
為了保障數(shù)據(jù)庫正常運行,保證數(shù)據(jù)的安全性、完整性和可用性,需要開發(fā)一個自動化巡檢工具,代替原來的人工數(shù)據(jù)庫巡檢。并且巡檢周期窗口分為日巡檢、周巡檢、月巡檢、半年度巡檢四類:
日巡檢維護(hù)指每日按計劃進(jìn)行的巡檢維護(hù)活動,以檢查數(shù)據(jù)庫運行狀態(tài)、數(shù)據(jù)庫備份狀態(tài)和告警錯誤為主要內(nèi)容。
周巡檢維護(hù)指按一周為周期,在每周指定日按計劃進(jìn)行的巡檢維護(hù)活動,它的工作內(nèi)容是在日巡檢維護(hù)工作內(nèi)容的基礎(chǔ)上添加數(shù)據(jù)庫對象檢查、安全性檢查等內(nèi)容組成。
月巡檢維護(hù)指按一月為周期,在每月指定日按計劃進(jìn)行的巡檢維護(hù)活動,它的工作內(nèi)容是在周巡檢維護(hù)工作內(nèi)容的基礎(chǔ)上添加系統(tǒng)參數(shù)配置檢查、硬件與系統(tǒng)平臺運行狀態(tài)檢查等內(nèi)容組成。
年度巡檢維護(hù)指按半年或者一年為周期,在指定日按計劃進(jìn)行的巡檢維護(hù)活動,它的工作內(nèi)容是在月巡檢維護(hù)工作內(nèi)容的基礎(chǔ)上添加數(shù)據(jù)庫性能診斷檢查組成。
巡檢實現(xiàn)方式分為兩種:
1、立即巡檢
用戶首先選擇某一業(yè)務(wù)下對應(yīng)的目標(biāo)主機,需要巡檢的數(shù)據(jù)庫實例(支持多選),設(shè)置數(shù)據(jù)采樣區(qū)間(當(dāng)前時間之前的任意時間段)。
點擊立即巡檢按鈕,等待數(shù)秒鐘,巡檢完成。點擊查看詳情,導(dǎo)出報告。
2、定時巡檢
用戶可以根據(jù)需求設(shè)置每天、每周、每月來執(zhí)行巡檢任務(wù)。這里舉例說明一下每周,用戶首先需要配置某業(yè)務(wù)下面主機、數(shù)據(jù)庫實例、巡檢頻率、巡檢時長(任意天數(shù))、執(zhí)行時間(每周某一天的某時某分某秒),如下圖:
實現(xiàn)方式
針對以上需求,平時我們開發(fā)時使用periodic_task裝飾器,程序啟動后自動執(zhí)行周期任務(wù):
@periodic_task(run_every=crontab(minute='*/5', hour='*', day_of_week="*")) def get_time(): """ celery 周期任務(wù)示例 run_every=crontab(minute='*/5', hour='*', day_of_week="*"):每 5 分鐘執(zhí)行一次任務(wù) """ now = datetime.datetime.now() logger.error(u"celery 周期任務(wù)調(diào)用成功,當(dāng)前時間:{}".format(now))
crontab()實例化的時候沒設(shè)置任何參數(shù),都是使用默認(rèn)值。crontab一共有7個參數(shù),常用有5個參數(shù)分別為:
minute:分鐘,范圍0-59
hour:小時,范圍0-23
day_of_week:星期幾,范圍0-6。以星期天為開始,即0為星期天。這個星期幾還可以使用英文縮寫表示,例如“sun”表示星期天
day_of_month:每月第幾號,范圍1-31
month_of_year:月份,范圍1-12
以上方案有個弊端:
需要每次根據(jù)巡檢是周幾,來計算數(shù)據(jù)采樣區(qū)間具體時間,然后觸發(fā)定時任務(wù),可能會存在誤差。
定時任務(wù)無法直接取消
舉例來說,假如客戶選擇每周三早上8點執(zhí)行任務(wù),采樣區(qū)間為3天。假如首次10月1日8:00執(zhí)行任務(wù),觸發(fā)定時任務(wù)獲取9月28日8:00-10月1日8:00之間的數(shù)據(jù);然后再次執(zhí)行時間為10月8日,再次觸發(fā)定時任務(wù),循環(huán)執(zhí)行。
最終,通過以下方式解決:
模板函數(shù)提前開發(fā)完成,加上@task()裝飾器:
@task() def auto_iip(**kwargs): logger.error(kwargs) '此處寫邏輯代碼'
測試每分鐘執(zhí)行一次,啟動工程,啟動celery,調(diào)用下面函數(shù),OK,等待1分鐘,sucess!
from djcelery.models import PeriodicTask, CrontabSchedule from djcelery.schedulers import ModelEntry, DatabaseScheduler def test_celery_task(date_data): crontab= CrontabSchedule.objects.create( hour='*', minute='*/1', day_of_week='*', day_of_month='*', month_of_year="*" ) schedule = crontab.schedule create_or_update_task = DatabaseScheduler.create_or_update_task #'home_application.celery_tasks.auto_iip' home模塊下的task。 task_template='home_application.celery_tasks.auto_iip' #task_name自定義,不能重復(fù)。 task_name = 'test' schedule_dict = { 'schedule': schedule, 'args': [], 'kwargs': data, 'task': task_template, 'enabled': 1 } create_or_update_task(task_name, **schedule_dict)
定時任務(wù)停止,直接根據(jù)task_name進(jìn)行刪除
def delete_celery_task(task_name): DatabaseScheduler.delete_task(task_name)
ok!大功告成。
以上這篇django 實現(xiàn)celery動態(tài)設(shè)置周期任務(wù)執(zhí)行時間就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
- Django+Celery實現(xiàn)動態(tài)配置定時任務(wù)的方法示例
- 如何使用Celery和Docker處理Django中的定期任務(wù)
- Django實現(xiàn)celery定時任務(wù)過程解析
- 使用celery和Django處理異步任務(wù)的流程分析
- Django集成celery發(fā)送異步郵件實例
- django之使用celery-把耗時程序放到celery里面執(zhí)行的方法
- Django中celery執(zhí)行任務(wù)結(jié)果的保存方法
- 使用celery執(zhí)行Django串行異步任務(wù)的方法步驟
- Django-celery-beat動態(tài)添加周期性任務(wù)實現(xiàn)過程解析
相關(guān)文章
Python中NameError: name ‘Image‘ is not&nb
本文主要介紹了Python中NameError: name ‘Image‘ is not defined的問題解決,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2024-06-06Python基于OpenCV庫Adaboost實現(xiàn)人臉識別功能詳解
這篇文章主要介紹了Python基于OpenCV庫Adaboost實現(xiàn)人臉識別功能,結(jié)合實例形式分析了Python下載與安裝OpenCV庫及相關(guān)人臉識別操作實現(xiàn)技巧,需要的朋友可以參考下2018-08-08Python+Pandas實現(xiàn)數(shù)據(jù)透視表
對于數(shù)據(jù)透視表,相信對于Excel比較熟悉的小伙伴都知道如何使用它。本文將利用Python Pandas實現(xiàn)數(shù)據(jù)透視表功能,感興趣的可以學(xué)習(xí)一下2022-06-06Python實現(xiàn)Excel做表自動化的最全方法合集
Microsoft?Excel?是一款強大的辦公工具,廣泛用于數(shù)據(jù)分析、報告制作、預(yù)算管理等各種任務(wù),本文將深入探討如何使用?Python?進(jìn)行?Excel?表格的自動化,需要的可以參考下2024-02-02