欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

Python采集C站熱榜數(shù)據(jù)實戰(zhàn)示例

 更新時間:2023年05月05日 11:39:36   作者:極客飛虎  
這篇文章主要為大家介紹了Python采集C站熱榜數(shù)據(jù)實戰(zhàn)示例詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪

前言

大家好,我們今天來爬取c站的熱搜榜,把其文章名稱,鏈接和作者獲取下來,我們保存到本地,我們通過測試,發(fā)現(xiàn)其實很簡單,我們只要簡單獲取數(shù)據(jù)就可以。沒有加密的東西。

功能實現(xiàn)

我們話不多說,我們先找到url,也就是請求地址。我們代碼如下:

url = 'https://blog.csdn.net/phoenix/web/blog/hot-rank?page=0&pageSize=25&type=' 
headers = {  
'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/111.0.0.0 Safari/537.36'}  
res = requests.get(url, headers=headers)

我們這里首先定義了一個 url 變量,它表示要訪問的 URL。然后,它定義了一個 headers 變量,其中包含了一些 HTTP 請求頭信息,如 User-Agent 表示 HTTP 請求的 User-Agent。最后,它使用 requests.get() 函數(shù)發(fā)送 HTTP GET 請求,并將 headers 變量作為參數(shù)傳遞給該函數(shù)。

解析數(shù)據(jù)

我們獲取到了內(nèi)容,接下來就是解析數(shù)據(jù),我們不難發(fā)現(xiàn)這個是一個json數(shù)據(jù),我們直接取值就好了,我們來看看代碼怎么寫。

datas = res.json()['data']   
for data in datas:    
    period = data['period']  
    nickName = data['nickName']  
    articleTitle = data['articleTitle']  
    articleDetailUrl = data['articleDetailUrl']  
    viewCount = data['viewCount']  
    commentCount = data['commentCount']  
    favorCount = data['favorCount']  
    hotRankScore = data['hotRankScore']
    print(period,nickName,articleTitle,avatarUrl,viewCount,favorCount,commentCount,hotRankScore)

我們將從 res.json() 中獲取 data 數(shù)據(jù),并將其存儲在 datas 變量中。res.json() 返回的是一個包含多個字典的對象,每個字典代表一個數(shù)據(jù)。

在這個例子中,res.json() 返回的字典中的 data 字段的值為 [{'period': '1', 'nickName': '', 'articleTitle': '', 'articleDetailUrl': '', 'viewCount': '', 'commentCount': '', 'favorCount': '', 'hotRankScore': '0.08536632385314886', 'avatarUrl': 'null', 'viewCount': '0', 'favorCount': '0', 'commentCount': '0', 'hotRankScore': '0.08536633735229816'}],我們使用這個數(shù)據(jù)來遍歷 datas 變量中的每個字典。

在每個字典中,我們使用 data 字段的值來獲取期數(shù)、昵稱、標(biāo)題、詳細(xì)URL、訪問次數(shù)、評論次數(shù)、喜歡次數(shù)、熱門排名分?jǐn)?shù)。

保存數(shù)據(jù)

now_time =time.strftime('%Y-%m-%d-%H-%M',time.localtime(time.time()))  
f = open(f'{now_time}熱榜數(shù)據(jù).csv', mode='a', encoding='utf-8', newline='')  
csv_writer = csv.DictWriter(f, fieldnames=['日期', '姓名', '文章標(biāo)題', '文章鏈接', '瀏覽量',  
'評論量', '收藏量', '熱榜值'])  
csv_writer.writeheader()

我們首先打開一個名為 data.csv 的文件,并指定使用 a 模式打開文件。然后,使用 csv.DictWriter() 函數(shù)創(chuàng)建一個 CSV 寫入器,并指定要寫入的列名。在這個例子中,我們指定了 fieldnames 參數(shù),它包含了我們要寫入的列名。

接下來,我們使用 csv_writer.writeheader() 方法寫入列名。這個方法會將列名寫入文件的第一行。

最后,我們使用 csv_writer.writerow() 方法寫入數(shù)據(jù)。

我們先寫入字典。

dit = {'日期': period, '姓名': nickName, '文章標(biāo)題': articleTitle, '文章鏈接': articleDetailUrl, '瀏覽量': viewCount,  
'評論量': commentCount, '收藏量': favorCount, '熱榜值': hotRankScore}  
print(dit)  
csv_writer.writerow(dit)

這段代碼創(chuàng)建了一個字典dit,其中包含了每個元素的值。然后,它使用csv_writer.writerow()方法將字典寫入CSV文件中。

總結(jié)

以上就是Python采集C站熱榜數(shù)據(jù)實戰(zhàn)示例的詳細(xì)內(nèi)容,更多關(guān)于Python采集C站熱榜數(shù)據(jù)的資料請關(guān)注腳本之家其它相關(guān)文章!

相關(guān)文章

  • 淺談python中的數(shù)字類型與處理工具

    淺談python中的數(shù)字類型與處理工具

    下面小編就為大家?guī)硪黄獪\談python中的數(shù)字類型與處理工具。小編覺得挺不錯的,現(xiàn)在就分享給大家,也給大家做個參考。一起跟隨小編過來看看吧
    2017-08-08
  • 通過實例了解python property屬性

    通過實例了解python property屬性

    這篇文章主要介紹了通過實例了解python property屬性,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下
    2019-11-11
  • Python解決非線性規(guī)劃中經(jīng)濟調(diào)度問題

    Python解決非線性規(guī)劃中經(jīng)濟調(diào)度問題

    Scipy是Python算法庫和數(shù)學(xué)工具包,包括最優(yōu)化、線性代數(shù)、積分、插值、特殊函數(shù)、傅里葉變換等模塊。scipy.optimize模塊中提供了多個用于非線性規(guī)劃問題的方法,適用于不同類型的問題。本文將利用起解決經(jīng)濟調(diào)度問題,感興趣的可以了解一下
    2022-05-05
  • python3+telnetlib實現(xiàn)簡單自動測試示例詳解

    python3+telnetlib實現(xiàn)簡單自動測試示例詳解

    telnetlib 模塊提供一個實現(xiàn)Telnet協(xié)議的類 Telnet,本文重點給大家介紹python3+telnetlib實現(xiàn)簡單自動測試示例詳解,需要的朋友可以參考下
    2021-08-08
  • python通過shutil實現(xiàn)快速文件復(fù)制的方法

    python通過shutil實現(xiàn)快速文件復(fù)制的方法

    這篇文章主要介紹了python通過shutil實現(xiàn)快速文件復(fù)制的方法,涉及Python中shutil模塊的使用技巧,需要的朋友可以參考下
    2015-03-03
  • python3調(diào)用R的示例代碼

    python3調(diào)用R的示例代碼

    本篇文章主要介紹了python3調(diào)用R的示例代碼,小編覺得挺不錯的,現(xiàn)在分享給大家,也給大家做個參考。一起跟隨小編過來看看吧
    2018-02-02
  • django 配置阿里云OSS存儲media文件的例子

    django 配置阿里云OSS存儲media文件的例子

    今天小編就為大家分享一篇django 配置阿里云OSS存儲media文件的例子,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2019-08-08
  • python?中?lxml?的?etree?標(biāo)簽解析

    python?中?lxml?的?etree?標(biāo)簽解析

    這篇文章主要介紹了python?中l(wèi)xml的etree?標(biāo)簽解析,文章圍繞主題展開詳細(xì)內(nèi)容,需要的小伙伴可以參考一下,希望對你的學(xué)習(xí)或工作有所幫助
    2022-04-04
  • python實現(xiàn)在pandas.DataFrame添加一行

    python實現(xiàn)在pandas.DataFrame添加一行

    下面小編就為大家分享一篇python實現(xiàn)在pandas.DataFrame添加一行,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2018-04-04
  • 五個Jupyter?Notebook實用魔法命令分享

    五個Jupyter?Notebook實用魔法命令分享

    Jupyter?Notebook是一個開源的交互式編程環(huán)境,用于創(chuàng)建和共享包含實時代碼、文本等,本文主要來和大家分享一些有趣的Jupyter?Notebook魔法命令,需要的可以參考一下
    2023-07-07

最新評論