python爬蟲爬取監(jiān)控教務(wù)系統(tǒng)的思路詳解
這幾天考了大大小小幾門課,教務(wù)系統(tǒng)又沒有成績通知功能,為了急切想知道自己掛了多少門,于是我寫下這個(gè)腳本。
設(shè)計(jì)思路:
設(shè)計(jì)思路很簡單,首先對已有的成績進(jìn)行處理,變?yōu)閘ist集合,然后定時(shí)爬取教務(wù)系統(tǒng)查成績的頁面,對爬取的成績也處理成list集合,如果newList的長度增加了,就找出增加的部分,并通過郵件通知我。
腳本運(yùn)行效果:
服務(wù)器:
發(fā)送郵件通知:
代碼如下:
import datetime import time from email.header import Header import requests import re import smtplib from email.mime.text import MIMEText from bs4 import BeautifulSoup def listener(): #在這里我通過模擬登陸的方式登陸 #一般來說這里填寫的是username跟password #但我們學(xué)校后臺(tái)將用戶名和密碼進(jìn)行了加密 #通過觀察瀏覽器的請求數(shù)據(jù)跟頁面源碼猜出學(xué)校后臺(tái)的加密方式 data={ #出于學(xué)校安全考慮,這里就不給出加密方式了 'encoded':'xxxxxxxxxxxxxxxxxxx' } session = requests.Session() session.post('http://jwc.sgu.edu.cn/jsxsd/xk/LoginToXk',data=data) #請求2019-2020-1學(xué)期的所有成績 r_data = { 'kksj': '2019-2020-1', 'kcxz': '', 'kcmc': '', 'xsfs': 'all' } r = session.post('http://jwc.sgu.edu.cn/jsxsd/kscj/cjcx_list', data=r_data) #對爬回來數(shù)據(jù)進(jìn)行封裝 soup = BeautifulSoup(r.text, 'html.parser') #返回已有的成績列表 oldList = toList(soup) max = len(oldList) #這里用死循環(huán)定時(shí)爬取成績頁面分析是否分布新成績 while (True): #post跟get方式不能亂用,不然數(shù)據(jù)會(huì)出錯(cuò) r = session.post('http://jwc.sgu.edu.cn/jsxsd/kscj/cjcx_list',data=r_data) soup = BeautifulSoup(r.text, 'lxml') #print(soup.prettify()) length = len(soup.find_all(string=re.compile('2019-2020-1')))-1 print("course_length: ",length) if (r.status_code == 200 and length != 0): if (length > max): #查詢新出的成績列表 newlist = toList(soup) #獲取兩個(gè)列表不同之處,不同的就是新成績 diflist = compareTwoList(oldList, newlist) oldList=newlist if diflist=='': send("unkowned Error","unkowned Error") else: #有新成績了,發(fā)送郵件通知我 send('you have new course sorce!!', diflist) max = length print('last running time was:',datetime.datetime.now()) #定時(shí)作用,500s查一次 time.sleep(500) else: # 發(fā)送郵件斷開連接了 print("had disconnected...") send("your server is disconnected!!!","your server is disconnected!!!") break def send(title,msg): mail_host = 'smtp.qq.com' # 你的qq郵箱名,沒有.com mail_user = '你的qq郵箱名,沒有.com' # 密碼(部分郵箱為授權(quán)碼) mail_pass = '授權(quán)碼' # 郵件發(fā)送方郵箱地址 sender = '發(fā)送方郵箱地址' # 郵件接受方郵箱地址,注意需要[]包裹,這意味著你可以寫多個(gè)郵件地址群發(fā) receivers = ['yoletpig@qq.com'] # 設(shè)置email信息 # 郵件內(nèi)容設(shè)置 message = MIMEText(msg, 'plain', 'utf-8') # 郵件主題 message['Subject'] = Header(title,'utf-8') # 發(fā)送方信息 message['From'] = sender # 接受方信息 message['To'] = receivers[0] # 登錄并發(fā)送郵件 try: # smtpObj = smtplib.SMTP() # # 連接到服務(wù)器 # smtpObj.connect(mail_host, 25) smtpObj = smtplib.SMTP_SSL(mail_host) # 登錄到服務(wù)器 smtpObj.login(mail_user, mail_pass) # 發(fā)送 smtpObj.sendmail( sender,receivers,message.as_string()) # 退出 smtpObj.quit() print('success') except smtplib.SMTPException as e: print('error', e) # 打印錯(cuò)誤 def toList(soup): flag = True list = [] strs = '' #對tr標(biāo)簽下的td進(jìn)行遍歷并取值 for tr in soup.find_all('tr'): if flag: flag = False; continue i = 1 for td in tr.stripped_strings: if (i == 1 or i == 2): i += 1 continue strs += "_" + td i += 1 list.append(strs) strs = '' return list def compareTwoList(oldList,newList): diflist='' for sub in newList: #判斷是否唯一 if(oldList.count(sub)==0): diflist = sub break return diflist if __name__ == '__main__': listener()
這個(gè)腳本不出意外的話要運(yùn)行到我所有成績出來為止,但我電腦肯定不會(huì)這么多天不關(guān)機(jī)呀,于是我就將這個(gè)腳本放到服務(wù)器上運(yùn)行,如何在ubuntu下運(yùn)行python文件,大家可以看一下我的另一篇文章:
yoletPig的博客:Ubuntu下運(yùn)行python文件
總結(jié)
以上所述是小編給大家介紹的python爬蟲爬取監(jiān)控教務(wù)系統(tǒng)的思路詳解,希望對大家有所幫助,如果大家有任何疑問請給我留言,小編會(huì)及時(shí)回復(fù)大家的。在此也非常感謝大家對腳本之家網(wǎng)站的支持!
如果你覺得本文對你有幫助,歡迎轉(zhuǎn)載,煩請注明出處,謝謝!
相關(guān)文章
python實(shí)現(xiàn)圖像檢索的三種(直方圖/OpenCV/哈希法)
這篇文章主要介紹了python實(shí)現(xiàn)圖像檢索的三種(直方圖/OpenCV/哈希法),文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2019-08-08python 使用tkinter與messagebox寫界面和彈窗
這篇文章主要介紹了python 使用tkinter與messagebox寫界面和彈窗,文章內(nèi)容詳細(xì),具有一的的參考價(jià)值,需要的小伙伴可以參考一下2022-03-03tensorflow1.0學(xué)習(xí)之模型的保存與恢復(fù)(Saver)
這篇文章主要介紹了tensorflow1.0學(xué)習(xí)之模型的保存與恢復(fù)(Saver) ,小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過來看看吧2018-04-04django 自定義過濾器(filter)處理較為復(fù)雜的變量方法
今天小編就為大家分享一篇django 自定義過濾器(filter)處理較為復(fù)雜的變量方法,具有很好的參考價(jià)值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-08-08Python基于列表list實(shí)現(xiàn)的CRUD操作功能示例
這篇文章主要介紹了Python列表list實(shí)現(xiàn)的CRUD操作功能,結(jié)合實(shí)例形式分析了Python基于列表list實(shí)現(xiàn)用戶數(shù)據(jù)CRUD相關(guān)操作技巧,需要的朋友可以參考下2018-01-01