Python定時(shí)任務(wù)隨機(jī)時(shí)間執(zhí)行的實(shí)現(xiàn)方法
背景:
有一個(gè)爬蟲服務(wù),需要定時(shí)從公開網(wǎng)站上拉取一些數(shù)據(jù),為了避免被識(shí)別為爬蟲(防爬蟲的識(shí)別需要根據(jù)很多特征,時(shí)間僅僅是其中一個(gè)維度),需要在指定的時(shí)間內(nèi),隨機(jī)生成一個(gè)時(shí)間爬取
腳本是python寫的,直接上代碼...
import logging
import traceback
from datetime import datetime
from apscheduler.schedulers.background import BackgroundScheduler
scheduler = BackgroundScheduler()
def spider_schedule():
# spider_schedule是job_id
scheduler.remove_job('spider_schedule')
try:
print 'spider start... ', datetime.now().strftime('%Y-%m-%d %X')
#--------自己的業(yè)務(wù)代碼-------
pass
#---------------------------
print 'spider end... ', datetime.now().strftime('%Y-%m-%d %X')
except Exception as e:
print traceback.format_exc(e)
finally:
interval_minutes = random.randint(60, 120) # 1-120分鐘隨機(jī)選一個(gè)時(shí)間
interval_seconds = random.randint(1, 60) # 1~60秒隨機(jī)選一個(gè)時(shí)間
scheduler.add_job(spider_schedule, 'interval', minutes=interval_minutes, seconds=interval_seconds, id='spider_schedule')
if __name__ == '__main__':
scheduler.add_job(spider_schedule, 'interval', seconds=10, id='spider_schedule')
scheduler.start()
ps:下面看下python定時(shí)執(zhí)行任務(wù)的三種方式
#!/user/bin/env python
# @Time :2018/6/7 16:31
# @Author :PGIDYSQ
#@File :PerformTaskTimer.py
#定時(shí)執(zhí)行任務(wù)命令
#1.定時(shí)任務(wù)代碼
import time,os,sched
# schedule = sched.scheduler(time.time,time.sleep)
# def perform_command(cmd,inc):
# os.system(cmd)
# print('task')
# def timming_exe(cmd,inc=60):
# schedule.enter(inc,0,perform_command,(cmd,inc))
# schedule.run()
# print('show time after 2 seconds:')
# timming_exe('echo %time%',2)
#2.周期性執(zhí)行任務(wù)
schedule = sched.scheduler(time.time,time.sleep)
def perform_command(cmd,inc):
#在inc秒后再次運(yùn)行自己,即周期運(yùn)行
schedule.enter(inc, 0, perform_command, (cmd, inc))
os.system(cmd)
def timming_exe(cmd,inc=60):
schedule.enter(inc,0,perform_command,(cmd,inc))
schedule.run()#持續(xù)運(yùn)行,直到計(jì)劃時(shí)間隊(duì)列變成空為止
print('show time after 2 seconds:')
timming_exe('echo %time%',2)
#3.循環(huán)執(zhí)行命令
# import time,os
# def re_exe(cmd,inc = 60):
# while True:
# os.system(cmd)
# time.sleep(inc)
# re_exe("echo %time%",5)
相關(guān)文章
Python中那些簡(jiǎn)單又好用的特性和用法盤點(diǎn)
這篇文章主要為大家詳細(xì)介紹了在編寫Python代碼過程中用到的幾個(gè)簡(jiǎn)單又好用的特性和用法,這些特性和用法可以幫助我們更高效地編寫Python代碼,希望對(duì)大家有所幫助2024-03-03
使用python opencv對(duì)畸變圖像進(jìn)行矯正的實(shí)現(xiàn)
本文主要介紹了使用python opencv對(duì)畸變圖像進(jìn)行矯正的實(shí)現(xiàn),文中通過示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2022-05-05
python 服務(wù)器運(yùn)行代碼報(bào)錯(cuò)ModuleNotFoundError的解決辦法
這篇文章主要介紹了python 服務(wù)器運(yùn)行代碼報(bào)錯(cuò)ModuleNotFoundError的解決辦法,幫助大家排除錯(cuò)誤,正確的運(yùn)行代碼,感興趣的朋友可以了解下2020-09-09
Python 數(shù)據(jù)處理庫 pandas 入門教程基本操作
pandas是一個(gè)Python語言的軟件包,在我們使用Python語言進(jìn)行機(jī)器學(xué)習(xí)編程的時(shí)候,這是一個(gè)非常常用的基礎(chǔ)編程庫。本文是對(duì)Python 數(shù)據(jù)處理庫 pandas 入門教程,非常不錯(cuò),感興趣的朋友一起看看吧2018-04-04
python抓取網(wǎng)頁圖片示例(python爬蟲)
這篇文章主要介紹了python抓取網(wǎng)頁圖片示例(python爬蟲),需要的朋友可以參考下2014-04-04
安裝并免費(fèi)使用Pycharm專業(yè)版(學(xué)生/教師)
這篇文章主要介紹了安裝并免費(fèi)使用Pycharm專業(yè)版(學(xué)生/教師),文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-09-09
詳解用Python把PDF轉(zhuǎn)為Word方法總結(jié)
這篇文章主要介紹了詳解用Python把PDF轉(zhuǎn)為Word方法總結(jié),文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2021-04-04
Python cookbook(數(shù)據(jù)結(jié)構(gòu)與算法)篩選及提取序列中元素的方法
這篇文章主要介紹了Python cookbook(數(shù)據(jù)結(jié)構(gòu)與算法)篩選及提取序列中元素的方法,涉及Python列表推導(dǎo)式、生成器表達(dá)式及filter()函數(shù)相關(guān)使用技巧,需要的朋友可以參考下2018-03-03
python pandas 對(duì)series和dataframe的重置索引reindex方法
今天小編就為大家分享一篇python pandas 對(duì)series和dataframe的重置索引reindex方法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2018-06-06

