欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

python 爬取吉首大學(xué)網(wǎng)站成績單

 更新時間:2021年06月01日 16:00:47   作者:chen0495  
python簡單爬蟲,爬取吉首大學(xué)成績單,學(xué)校的成績單居然不支持導(dǎo)出,太坑了,算個績點居然還要手打,我吐了.花2個多小時寫了此python程序來生成可方便求和平均的Excel文件,幫助JSU學(xué)子脫離手算煩惱...

項目地址:

https://github.com/chen0495/pythonCrawlerForJSU

環(huán)境

  • python 3.5即以上
  • request、BeautifulSoup、numpy、pandas.
  • 安裝BeautifulSoup使用命令pip install BeautifulSoup4

配置及使用

登陸學(xué)校成績單查詢網(wǎng)站,修改cookie.

按F12后按Ctrl+R刷新一下,獲取cookie的方法見下圖:

修改爬蟲url為自己的成績單網(wǎng)址.

運行src/main.py文件即可在/result下得到csv文件.

結(jié)果展示

完整代碼

# -*- coding: utf-8 -*-
# @Time    : 5/29/2021 2:13 PM
# @Author  : Chen0495
# @Email   : 1346565673@qq.com|chenweiin612@gmail.com
# @File    : main.py
# @Software: PyCharm

import requests as rq
from bs4 import BeautifulSoup as BS
import numpy as np
import pandas as pd

rq.adapters.DEFAULT_RETRIES = 5
s = rq.session()
s.keep_alive = False # 關(guān)閉多余連接

header = { # 請更改cookie
    'user-agent' : 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/92.0.4501.0 Safari/537.36 Edg/92.0.891.1',
    'cookie' : 'wengine_vpn_ticketwebvpn_jsu_edu_cn=xxxxxxxxxx; show_vpn=1; refresh=1'
}

# 請更改url
r = rq.get('https://webvpn.jsu.edu.cn/https/xxxxxxxxxxxxxxxxxxxxxxxxxxxxxx/jsxsd/kscj/cjcx_list', headers = header, verify=False)

soup = BS(r.text,'html.parser')

head = []
for th in soup.find_all("th"):
    head.append(th.text)
while '' in head:
    head.remove('')
head.remove('序號')
context = np.array(head)


x = []
flag = 0
for td in soup.find_all("td"):
    if flag!=0 and flag%11!=1:
        x.append(td.text)
    if flag%11==0 and flag!=0:
        context = np.row_stack((context,np.array(x)))
        x.clear()
    flag+=1

context = np.delete(context,0,axis=0)
data = pd.DataFrame(context,columns=head)
print(data)

# 生成文件,親更改文件名
data.to_csv('../result/result.csv',encoding='utf-8-sig')

以上就是python 爬取吉首大學(xué)成績單的詳細內(nèi)容,更多關(guān)于python 爬取成績單的資料請關(guān)注腳本之家其它相關(guān)文章!

相關(guān)文章

  • 在python win系統(tǒng)下 打開TXT文件的實例

    在python win系統(tǒng)下 打開TXT文件的實例

    下面小編就為大家分享一篇在python win系統(tǒng)下 打開TXT文件的實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2018-04-04
  • python多重繼承新算法C3介紹

    python多重繼承新算法C3介紹

    這篇文章主要介紹了python多重繼承新算法C3介紹,多重繼承需要復(fù)雜的算法,本文就詳細講解了新算法C3,需要的朋友可以參考下
    2014-09-09
  • python實現(xiàn)讀取命令行參數(shù)的方法

    python實現(xiàn)讀取命令行參數(shù)的方法

    這篇文章主要介紹了python實現(xiàn)讀取命令行參數(shù)的方法,涉及Python中sys模塊的相關(guān)使用技巧,需要的朋友可以參考下
    2015-05-05
  • Python Sqlalchemy如何實現(xiàn)select for update

    Python Sqlalchemy如何實現(xiàn)select for update

    這篇文章主要介紹了Python Sqlalchemy如何實現(xiàn)select for update,文中通過示例代碼介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下
    2020-10-10
  • Python中為feedparser設(shè)置超時時間避免堵塞

    Python中為feedparser設(shè)置超時時間避免堵塞

    為feedparser設(shè)置一個超時時間,可是feedparser并沒有提供這個功能,只好采用其他方法了,感興趣的朋友可以看看
    2014-09-09
  • Python實現(xiàn)的Excel文件讀寫類

    Python實現(xiàn)的Excel文件讀寫類

    這篇文章主要介紹了Python實現(xiàn)的Excel文件讀寫類,涉及Python針對Excel常見的讀寫、打印等操作技巧,具有一定參考借鑒價值,需要的朋友可以參考下
    2015-07-07
  • python爬取網(wǎng)易云音樂排行榜實例代碼

    python爬取網(wǎng)易云音樂排行榜實例代碼

    大家好,本篇文章主要講的是python爬取網(wǎng)易云音樂排行榜數(shù)據(jù)代碼,感興趣的同學(xué)趕快來看一看吧,對你有幫助的話記得收藏一下,方便下次瀏覽
    2021-12-12
  • Pytorch 多維數(shù)組運算過程的索引處理方式

    Pytorch 多維數(shù)組運算過程的索引處理方式

    今天小編就為大家分享一篇Pytorch 多維數(shù)組運算過程的索引處理方式,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2019-12-12
  • Python Pandas實現(xiàn)DataFrame合并的圖文教程

    Python Pandas實現(xiàn)DataFrame合并的圖文教程

    我們在使用pandas處理數(shù)據(jù)的時候,往往會需要合并兩個或者多個DataFrame的操作,下面這篇文章主要給大家介紹了關(guān)于Pandas實現(xiàn)DataFrame合并的相關(guān)資料,需要的朋友可以參考下
    2022-07-07
  • 關(guān)于Python的各種文件操作

    關(guān)于Python的各種文件操作

    這篇文章主要介紹了關(guān)于Python的各種文件操作,適合剛?cè)腴T的小白或者對于文件操作基礎(chǔ)不太牢固的同學(xué),需要的朋友可以參考下
    2023-04-04

最新評論