Python爬取英雄聯(lián)盟MSI直播間彈幕并生成詞云圖
一、環(huán)境準(zhǔn)備
安裝相關(guān)第三方庫(kù)
pip install jieba
pip install wordcloud
二、數(shù)據(jù)準(zhǔn)備
爬取對(duì)象:2021年5月23號(hào),RNG奪冠直播間的彈幕信息
爬取對(duì)象路徑:
方式1、根據(jù)開(kāi)發(fā)者工具(F12),獲取請(qǐng)求url、請(qǐng)求頭、cookie等信息;
方式2:根據(jù)直播地址url,前+字符i
我們這里演示的是,采用方式2。
三、代碼如下
import requests, re
import jieba, wordcloud
"""
# 以下是練習(xí)代碼
def get_f12_barrage(url, headers, file_path):
#通過(guò)f12中的,請(qǐng)求地址,獲取彈幕數(shù)據(jù)
#:param url: 通過(guò)彈幕地址(通過(guò)開(kāi)發(fā)者工具,從請(qǐng)求數(shù)據(jù)中獲取的)
#:param headers: 請(qǐng)求頭信息
#:param file_path: 響應(yīng)數(shù)據(jù)存儲(chǔ)路徑
#:return: 無(wú)返回?cái)?shù)據(jù)
# 1、發(fā)送請(qǐng)求,接受響應(yīng)數(shù)據(jù)
response = requests.get(url=url, headers=headers)
# 2、獲取響應(yīng)數(shù)據(jù)
# 返回的響應(yīng)可能是亂碼的,需要先轉(zhuǎn)成響應(yīng)的編碼格式
# apparent_encoding的作用:會(huì)從網(wǎng)頁(yè)的內(nèi)容中分析網(wǎng)頁(yè)編碼的方式
response.encoding = response.apparent_encoding
# 3、解析響應(yīng)數(shù)據(jù)
content = response.text
content_list = re.findall(":(.*?)@", content)
# 4、存儲(chǔ)響應(yīng)數(shù)據(jù), ”w+格式“,即文件存在則,先清空再寫(xiě),不存在則新建文件
with open(file_path, mode="w+", encoding="utf-8") as fp:
for line in content_list:
# 分析每一行,發(fā)現(xiàn)第一個(gè)字符元素不是想要的,先去除第一個(gè)字符
fp.write(line[1:] + "\n")
return file_path
"""
# ******************8********************執(zhí)行代碼如下******************************************
# 算法:先爬取數(shù)據(jù),再根據(jù)爬取的數(shù)據(jù),生成詞云圖
def get_barrage(url, headers, file_path):
"""
通過(guò)請(qǐng)求網(wǎng)頁(yè)前面+i的彈幕地址,獲取彈幕數(shù)據(jù)
:param url: 通過(guò)彈幕地址(網(wǎng)址前面+i)
:param headers: 請(qǐng)求頭信息
:param file_path: 響應(yīng)數(shù)據(jù)存儲(chǔ)路徑
:return: 無(wú)返回?cái)?shù)據(jù)
"""
# 1、發(fā)送請(qǐng)求,接受響應(yīng)數(shù)據(jù)
response = requests.get(url=url, headers=headers)
# 2、獲取響應(yīng)數(shù)據(jù)
# 返回的響應(yīng)可能是亂碼的,需要先轉(zhuǎn)成響應(yīng)的編碼格式
# apparent_encoding的作用:會(huì)從網(wǎng)頁(yè)的內(nèi)容中分析網(wǎng)頁(yè)編碼的方式
response.encoding = response.apparent_encoding
# 3、解析響應(yīng)數(shù)據(jù)
# 此時(shí)response.text可能是亂碼的
content = response.text
# 正則匹配響應(yīng)數(shù)據(jù),取數(shù)目標(biāo)是(.*?)中的數(shù)據(jù)
content_list = re.findall("<d p=\".*?\">(.*?)</d>", content)
# 4、存儲(chǔ)響應(yīng)數(shù)據(jù), ”w+格式“,即文件存在則,先清空再寫(xiě),不存在則新建文件
with open(file_path, mode="w+", encoding="utf-8") as fp:
for line in content_list:
fp.write(line + "\n")
return file_path
# https://api.bilibili.com/x/v1/dm/list.so?oid=343174354
# https://api.bilibili.com/x/v2/dm/web/history/seg.so?type=1&oid=343174354&date=2021-05-23
def make_word_cloud(word_file_path):
# 1、打開(kāi)文件,默認(rèn)是gbk格式打開(kāi),這里指定utf-8打開(kāi)
with open(word_file_path, encoding="utf-8") as fp:
content = fp.read() # read方法返回的是一個(gè)字符串
# 2、利用結(jié)巴,分割詞,得到的是一個(gè)列表
content_list = jieba.lcut(content)
# 再用空格,拼接字符串
content_str = " ".join(content_list)
# 3、設(shè)置詞云圖
wc_config = wordcloud.WordCloud(
width=700, # 寬度
height=500, # 高度
background_color='black', # 背景色
font_path='msyh.ttc', # 找字體的配置路徑C:\Windows\Fonts\微軟雅黑,然后雙擊(出現(xiàn)3個(gè)),選擇【常規(guī)-屬性】
scale=15, # 顏色像素
stopwords={'了', '的'}, # 詞云圖中過(guò)濾掉一些字眼
contour_width=5, # 輪廓寬度
contour_color='red' # 輪廓顏色
)
# 4、根據(jù)輸入文字內(nèi)容,形成一個(gè)詞云圖,并存儲(chǔ)在指定路徑
wc_config.generate(content_str)
wc_config.to_file("e:\\reg_cloud.png")
return word_file_path
if __name__ == "__main__":
"""
# 從開(kāi)發(fā)者工具或者抓包工具中獲取url地址
f12_url = 'https://api.bilibili.com/x/v2/dm/web/history/seg.so?type=1&oid=343174354&date=2021-05-23'
# 從開(kāi)發(fā)者工具或者抓包工具中,獲取請(qǐng)求頭信息,主要包括cookie、user-agent
header = {
'cookie': 'bsource=search_baidu; _uuid=BBD44BE2-5DAA-A13A-A593-FD3A83C3929423721infoc; buvid3=18335C4D-A3A0-48D5-973A-7943D63AC73E34756infoc; CURRENT_FNVAL=80; blackside_state=1; rpdid=|(um|u)klum~0J\'uYkkJJkJJu; fingerprint=be684c13c90e4279aaaa3e2694da4285; buvid_fp=18335C4D-A3A0-48D5-973A-7943D63AC73E34756infoc; buvid_fp_plain=96D5E0EF-41D9-4A32-BE47-DFF96C44DB9F155821infoc; SESSDATA=f90082f7%2C1637884658%2C008f9%2A51; bili_jct=2f17a04a5651fb1c6579b73aeb640f7f; DedeUserID=1153205015; DedeUserID__ckMd5=b6f334f0a2d86238; sid=6vb9j9nl; bfe_id=6f285c892d9d3c1f8f020adad8bed553',
'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/90.0.4430.212 Safari/537.36'
}
# 申明存儲(chǔ)文件的路徑
f12_file_path = "e:\\RNG.txt"
"""
# 請(qǐng)求路徑,是網(wǎng)頁(yè)前面+i
url = 'https://api.bilibili.com/x/v1/dm/list.so?oid=343174354'
file_path = "e:\\RNG_1.txt"
# 請(qǐng)求頭中需要包含cookie 和 user-agent,這些信息都可以用f12獲取到,注意有些字符需要轉(zhuǎn)義
# 為了個(gè)人信息安全,這里的cookIe加密顯示
header = {
'cookie': '********',
'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/90.0.4430.212 Safari/537.36'
}
# 調(diào)用方法
get_barrage(url=url, headers=header, file_path=file_path)
word_file_path = get_barrage(url=url, headers=header, file_path=file_path)
make_word_cloud(word_file_path)
四、詞云圖效果展示

到此這篇關(guān)于Python爬取英雄聯(lián)盟MSI直播間彈幕并生成詞云圖的文章就介紹到這了,更多相關(guān)Python爬取彈幕并生成詞云圖內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
- Python采集電視劇《開(kāi)端》彈幕做成詞云圖
- 用Python采集《雪中悍刀行》彈幕做成詞云實(shí)例
- 基于Python實(shí)現(xiàn)給喜歡的主播自動(dòng)發(fā)彈幕
- Python實(shí)現(xiàn)爬取某站視頻彈幕并繪制詞云圖
- Python編程實(shí)現(xiàn)下載器自動(dòng)爬取采集B站彈幕示例
- Python基于Tkinter開(kāi)發(fā)一個(gè)爬取B站直播彈幕的工具
- python基于selenium爬取斗魚(yú)彈幕
- python實(shí)現(xiàn)b站直播自動(dòng)發(fā)送彈幕功能
- Python爬取雪中悍刀行彈幕分析并可視化詳程
相關(guān)文章
Python即時(shí)網(wǎng)絡(luò)爬蟲(chóng)項(xiàng)目啟動(dòng)說(shuō)明詳解
這篇文章主要為大家詳細(xì)介紹了Python即時(shí)網(wǎng)絡(luò)爬蟲(chóng)項(xiàng)目啟動(dòng)說(shuō)明,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2018-02-02
樹(shù)莓派3 搭建 django 服務(wù)器的實(shí)例
今天小編就為大家分享一篇樹(shù)莓派3 搭建 django 服務(wù)器的實(shí)例,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-08-08
Python虛擬機(jī)字節(jié)碼教程之裝飾器實(shí)現(xiàn)詳解
在本篇文章當(dāng)中主要給大家介紹在?cpython?當(dāng)中一些比較常見(jiàn)的字節(jié)碼,從根本上理解?python?程序的執(zhí)行。在本文當(dāng)中主要介紹一些?python?基本操作的字節(jié)碼,并且將從字節(jié)碼的角度分析函數(shù)裝飾器的原理2023-04-04
Python中sorted()函數(shù)的強(qiáng)大排序技術(shù)實(shí)例探索
排序在編程中是一個(gè)基本且重要的操作,而Python的sorted()函數(shù)則為我們提供了強(qiáng)大的排序能力,在本篇文章中,我們將深入研究不同排序算法、sorted()?函數(shù)的靈活性,以及各種排序場(chǎng)景下的最佳實(shí)踐2024-01-01
Python?NumPy實(shí)用函數(shù)筆記之a(chǎn)llclose
這篇文章主要給大家介紹了關(guān)于Python?NumPy實(shí)用函數(shù)筆記之a(chǎn)llclose的相關(guān)資料,文中通過(guò)實(shí)例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2022-01-01
Python中ini配置文件讀寫(xiě)的實(shí)現(xiàn)
本文主要介紹了Python中ini配置文件讀寫(xiě)的實(shí)現(xiàn),文中通過(guò)示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2022-02-02
Python如何實(shí)現(xiàn)小程序 無(wú)限求和平均
這篇文章主要介紹了python如何實(shí)現(xiàn)小程序 無(wú)限求和平均,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-02-02

