Python定時(shí)任務(wù)隨機(jī)時(shí)間執(zhí)行的實(shí)現(xiàn)方法
背景:
有一個(gè)爬蟲(chóng)服務(wù),需要定時(shí)從公開(kāi)網(wǎng)站上拉取一些數(shù)據(jù),為了避免被識(shí)別為爬蟲(chóng)(防爬蟲(chóng)的識(shí)別需要根據(jù)很多特征,時(shí)間僅僅是其中一個(gè)維度),需要在指定的時(shí)間內(nèi),隨機(jī)生成一個(gè)時(shí)間爬取
腳本是python寫(xiě)的,直接上代碼...
import logging import traceback from datetime import datetime from apscheduler.schedulers.background import BackgroundScheduler scheduler = BackgroundScheduler() def spider_schedule(): # spider_schedule是job_id scheduler.remove_job('spider_schedule') try: print 'spider start... ', datetime.now().strftime('%Y-%m-%d %X') #--------自己的業(yè)務(wù)代碼------- pass #--------------------------- print 'spider end... ', datetime.now().strftime('%Y-%m-%d %X') except Exception as e: print traceback.format_exc(e) finally: interval_minutes = random.randint(60, 120) # 1-120分鐘隨機(jī)選一個(gè)時(shí)間 interval_seconds = random.randint(1, 60) # 1~60秒隨機(jī)選一個(gè)時(shí)間 scheduler.add_job(spider_schedule, 'interval', minutes=interval_minutes, seconds=interval_seconds, id='spider_schedule') if __name__ == '__main__': scheduler.add_job(spider_schedule, 'interval', seconds=10, id='spider_schedule') scheduler.start()
ps:下面看下python定時(shí)執(zhí)行任務(wù)的三種方式
#!/user/bin/env python # @Time :2018/6/7 16:31 # @Author :PGIDYSQ #@File :PerformTaskTimer.py #定時(shí)執(zhí)行任務(wù)命令 #1.定時(shí)任務(wù)代碼 import time,os,sched # schedule = sched.scheduler(time.time,time.sleep) # def perform_command(cmd,inc): # os.system(cmd) # print('task') # def timming_exe(cmd,inc=60): # schedule.enter(inc,0,perform_command,(cmd,inc)) # schedule.run() # print('show time after 2 seconds:') # timming_exe('echo %time%',2) #2.周期性執(zhí)行任務(wù) schedule = sched.scheduler(time.time,time.sleep) def perform_command(cmd,inc): #在inc秒后再次運(yùn)行自己,即周期運(yùn)行 schedule.enter(inc, 0, perform_command, (cmd, inc)) os.system(cmd) def timming_exe(cmd,inc=60): schedule.enter(inc,0,perform_command,(cmd,inc)) schedule.run()#持續(xù)運(yùn)行,直到計(jì)劃時(shí)間隊(duì)列變成空為止 print('show time after 2 seconds:') timming_exe('echo %time%',2) #3.循環(huán)執(zhí)行命令 # import time,os # def re_exe(cmd,inc = 60): # while True: # os.system(cmd) # time.sleep(inc) # re_exe("echo %time%",5)
相關(guān)文章
Python中那些簡(jiǎn)單又好用的特性和用法盤(pán)點(diǎn)
這篇文章主要為大家詳細(xì)介紹了在編寫(xiě)Python代碼過(guò)程中用到的幾個(gè)簡(jiǎn)單又好用的特性和用法,這些特性和用法可以幫助我們更高效地編寫(xiě)Python代碼,希望對(duì)大家有所幫助2024-03-03使用python opencv對(duì)畸變圖像進(jìn)行矯正的實(shí)現(xiàn)
本文主要介紹了使用python opencv對(duì)畸變圖像進(jìn)行矯正的實(shí)現(xiàn),文中通過(guò)示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2022-05-05python 服務(wù)器運(yùn)行代碼報(bào)錯(cuò)ModuleNotFoundError的解決辦法
這篇文章主要介紹了python 服務(wù)器運(yùn)行代碼報(bào)錯(cuò)ModuleNotFoundError的解決辦法,幫助大家排除錯(cuò)誤,正確的運(yùn)行代碼,感興趣的朋友可以了解下2020-09-09Python 數(shù)據(jù)處理庫(kù) pandas 入門(mén)教程基本操作
pandas是一個(gè)Python語(yǔ)言的軟件包,在我們使用Python語(yǔ)言進(jìn)行機(jī)器學(xué)習(xí)編程的時(shí)候,這是一個(gè)非常常用的基礎(chǔ)編程庫(kù)。本文是對(duì)Python 數(shù)據(jù)處理庫(kù) pandas 入門(mén)教程,非常不錯(cuò),感興趣的朋友一起看看吧2018-04-04python抓取網(wǎng)頁(yè)圖片示例(python爬蟲(chóng))
這篇文章主要介紹了python抓取網(wǎng)頁(yè)圖片示例(python爬蟲(chóng)),需要的朋友可以參考下2014-04-04安裝并免費(fèi)使用Pycharm專業(yè)版(學(xué)生/教師)
這篇文章主要介紹了安裝并免費(fèi)使用Pycharm專業(yè)版(學(xué)生/教師),文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2020-09-09詳解用Python把PDF轉(zhuǎn)為Word方法總結(jié)
這篇文章主要介紹了詳解用Python把PDF轉(zhuǎn)為Word方法總結(jié),文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2021-04-04Python cookbook(數(shù)據(jù)結(jié)構(gòu)與算法)篩選及提取序列中元素的方法
這篇文章主要介紹了Python cookbook(數(shù)據(jù)結(jié)構(gòu)與算法)篩選及提取序列中元素的方法,涉及Python列表推導(dǎo)式、生成器表達(dá)式及filter()函數(shù)相關(guān)使用技巧,需要的朋友可以參考下2018-03-03python pandas 對(duì)series和dataframe的重置索引reindex方法
今天小編就為大家分享一篇python pandas 對(duì)series和dataframe的重置索引reindex方法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2018-06-06