Linux部署python爬蟲腳本,并設(shè)置定時(shí)任務(wù)的方法
更新時(shí)間：2019年06月29日 09:52:58 作者：mikezhou002
今天小編就為大家分享一篇Linux部署python爬蟲腳本,并設(shè)置定時(shí)任務(wù)的方法，具有很好的參考價(jià)值，希望對大家有所幫助。一起跟隨小編過來看看吧
去年因項(xiàng)目需要，用python寫了個(gè)爬蟲。因爬到的數(shù)據(jù)需要存到生產(chǎn)環(huán)境的PG數(shù)據(jù)庫。所以需要將腳本部署到CentOS服務(wù)器，并設(shè)置定時(shí)任務(wù)，自動啟動腳本。
實(shí)施步驟如下：
1.安裝pip（操作系統(tǒng)自帶了python2.6可以直接用，但是沒有pip）
# 下載pip安裝包 wget "https://pypi.python.org/packages/source/p/pip/pip-1.5.4.tar.gz#md5=834b2904f92d46aaa333267fb1c922bb" --no-check-certificate # 解壓安裝包并安裝 tar -xzvf pip-1.5.4.tar.gz cd pip-1.5.4 python setup.py install
2.用pip安裝第三方庫
pip install PyGreSQL==5.0.3 pip install requests==2.18.3
3.設(shè)置定時(shí)任務(wù)
# 開啟定時(shí)任務(wù)服務(wù) service crond start # 查看定時(shí)任務(wù)服務(wù)狀態(tài) service crond status # 打開定時(shí)任務(wù)編輯窗口 crontab -e # 添加兩條定時(shí)任務(wù)，即每天0點(diǎn)0分和12點(diǎn)20分各執(zhí)行一次，并寫入日志 0 0 * * * /usr/bin/python /home/longrise/psrd/collect.py > /home/longrise/psrd/collect.log 2>&1 & 20 12 * * * /usr/bin/python /home/longrise/psrd/collect.py > /home/longrise/psrd/collect.log 2>&1 & 定時(shí)任務(wù)語法如下： # For details see man 4 crontabs # Example of job definition: # .---------------- minute (0 - 59) # | .------------- hour (0 - 23) # | | .---------- day of month (1 - 31) # | | | .------- month (1 - 12) OR jan,feb,mar,apr ... # | | | | .---- day of week (0 - 6) (Sunday=0 or 7) OR sun,mon,tue,wed,thu,fri,sat # | | | | | # * * * * * user-name command to be executed
以上這篇Linux部署python爬蟲腳本,并設(shè)置定時(shí)任務(wù)的方法就是小編分享給大家的全部內(nèi)容了，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。
您可能感興趣的文章:
相關(guān)文章
如何利用多核CPU來加速你的Linux命令(GNU Parallel)
這篇文章主要介紹了如何利用多核CPU來加速你的Linux命令(GNU Parallel)，小編覺得挺不錯(cuò)的，現(xiàn)在分享給大家，也給大家做個(gè)參考。一起跟隨小編過來看看吧2019-01-01
Linux C++ 使用condition實(shí)現(xiàn)阻塞隊(duì)列的方法
下面小編就為大家?guī)硪黄狶inux C++ 使用condition實(shí)現(xiàn)阻塞隊(duì)列的方法。小編覺得挺不錯(cuò)的，現(xiàn)在就分享給大家，也給大家做個(gè)參考。一起跟隨小編過來看看吧2017-01-01
這篇文章主要介紹了在 CentOS 7 中安裝 MySQL 8 的教程詳解,非常不錯(cuò)，具有一定的參考借鑒價(jià)值，需要的朋友可以參考下2018-10-10
在麒麟V10服務(wù)器上編譯安裝Storm的詳細(xì)過程
這篇文章主要介紹了在麒麟V10服務(wù)器上編譯安裝Storm的方法，本文給大家介紹的非常詳細(xì)，對大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2021-01-01
Linux低電量自動關(guān)機(jī)的實(shí)現(xiàn)方法
這篇文章主要給大家介紹了關(guān)于Linux低電量自動關(guān)機(jī)的實(shí)現(xiàn)方法，文中通過示例代碼介紹的非常詳細(xì)，對大家學(xué)習(xí)或者使用linux具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2018-11-11
Linux系統(tǒng)目錄大小通過du命令獲取實(shí)例
在本篇文章里小編給大家整理的是一篇關(guān)于Linux系統(tǒng)目錄大小通過du命令獲取實(shí)例內(nèi)容，需要的朋友們可以參考學(xué)習(xí)下。2020-11-11
Ubuntu環(huán)境編譯安裝PHP和Nginx的方法
這篇文章主要介紹了Ubuntu環(huán)境編譯安裝PHP和Nginx的方法,較為詳細(xì)的分析了Ubuntu環(huán)境編譯安裝PHP和Nginx的具體步驟、相關(guān)命令與操作技巧,需要的朋友可以參考下2019-08-08
這篇文章主要介紹了linux磁盤管理知識匯總的相關(guān)資料,需要的朋友可以參考下2018-08-08
Linux系統(tǒng)中KafKa安裝和使用方法 java客戶端連接kafka過程
這篇文章主要介紹了Linux系統(tǒng)中KafKa安裝和使用方法 java客戶端連接kafka過程,具有很好的參考價(jià)值,希望對大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-08-08
這篇文章主要介紹了Linux 中firewall的使用方法總結(jié)的相關(guān)資料,這里提供了使用的命令幫助大家學(xué)習(xí)理解，需要的朋友可以參考下2017-08-08