快捷導(dǎo)航

Python爬蟲爬取微博熱搜保存為 Markdown 文件的源碼

更新時(shí)間：2021年02月22日 10:37:13 作者：一個(gè)超會(huì)寫B(tài)ug的安太狼

這篇文章主要介紹了Python爬蟲爬取微博熱搜保存為 Markdown 文件,本文給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值，需要的朋友可以參考下

什么是爬蟲？

網(wǎng)絡(luò)爬蟲（又被稱為網(wǎng)頁(yè)蜘蛛，網(wǎng)絡(luò)機(jī)器人，在FOAF社區(qū)中間，更經(jīng)常的稱為網(wǎng)頁(yè)追逐者），是一種按照一定的規(guī)則，自動(dòng)地抓取萬(wàn)維網(wǎng)信息的程序或者腳本。另外一些不常使用的名字還有螞蟻、自動(dòng)索引、模擬程序或者蠕蟲。

其實(shí)通俗的講就是通過(guò)程序去獲取web頁(yè)面上自己想要的數(shù)據(jù)，也就是自動(dòng)抓取數(shù)據(jù)

爬蟲可以做什么？

你可以爬取小姐姐的圖片，爬取自己有興趣的島國(guó)視頻，或者其他任何你想要的東西，前提是，你想要的資源必須可以通過(guò)瀏覽器訪問(wèn)的到。

爬蟲的本質(zhì)是什么？

上面關(guān)于爬蟲可以做什么，定義了一個(gè)前提，是瀏覽器可以訪問(wèn)到的任何資源，特別是對(duì)于知曉web請(qǐng)求生命周期的學(xué)者來(lái)說(shuō)，爬蟲的本質(zhì)就更簡(jiǎn)單了。爬蟲的本質(zhì)就是模擬瀏覽器打開網(wǎng)頁(yè)，獲取網(wǎng)頁(yè)中我們想要的那部分?jǐn)?shù)據(jù)。

微博熱搜榜python爬蟲，僅供學(xué)習(xí)交流

在這里插入圖片描述

源碼及注釋：

# -*- coding=UTF-8 -*-
#!usr/bin/env python

import os
import time
import requests
from lxml import etree

url = "https://s.weibo.com/top/summary?cate=realtimehot"
headers={
 'Host': 's.weibo.com',
 'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3',
 'Accept-Encoding': 'gzip, deflate, br',
 'Accept-Language': 'zh-CN,zh;q=0.9',
 'Connection': 'keep-alive',
 'Referer': 'https://weibo.com/',
 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.97 Safari/537.36'
}
r = requests.get(url,headers=headers)
print(r.status_code)

html_xpath = etree.HTML(r.text)
data = html_xpath.xpath('//*[@id="pl_top_realtimehot"]/table/tbody/tr/td[2]')
num = -1

# # 解決存儲(chǔ)路徑
# time_path = time.strftime('%Y{y}%m{m}%dvvxyksv9kd',time.localtime()).format(y='年', m='月', d='日')
# time_name = time.strftime('%Y{y}%m{m}%dvvxyksv9kd%H{h}',time.localtime()).format(y='年', m='月', d='日',h='點(diǎn)')
# root = "./" + time_path + "/"
# path = root + time_name + '.md'
# if not os.path.exists(root):
#  os.mkdir(root)

# 解決存儲(chǔ)路徑
time_path = time.strftime('%Y{y}%m{m}%dvvxyksv9kd',time.localtime()).format(y='年', m='月', d='日')
time_name = time.strftime('%Y{y}%m{m}%dvvxyksv9kd%H{h}',time.localtime()).format(y='年', m='月', d='日',h='點(diǎn)')
year_path = time.strftime('%Y{y}',time.localtime()).format(y='年')
month_path = time.strftime('%m{m}',time.localtime()).format(m='月')
day_month = time.strftime('%dvvxyksv9kd',time.localtime()).format(d='日')
all_path = "./" + year_path + '/'+ month_path + '/' + day_month
if not os.path.exists(all_path):
 # 創(chuàng)建多層路徑
 os.makedirs(all_path)

# 最終文件存儲(chǔ)位置
root = all_path + "/"
path = root + time_name + '.md'
print(path)
# 文件頭部信息
with open(path,'a') as f:
 f.write('{} {}\n\n'.format('# ',time_name+'數(shù)據(jù)'))
f.close()

for tr in (data):
 title = tr.xpath('./a/text()')
 hot_score = tr.xpath('./span/text()')
 
 num += 1

 # 過(guò)濾第 0 條
 if num == 0:
  pass
 else:
  with open(path,'a') as f:

   f.write('{} {}、{}\n\n'.format('###',num,title[0]))
   f.write('{} {}\n\n'.format('微博當(dāng)時(shí)熱度為：',hot_score[0]))
   
  f.close()

  print(num,title[0],'微博此時(shí)的熱度為：',hot_score[0])

運(yùn)行：

運(yùn)行結(jié)束后會(huì)在當(dāng)前文件夾下生成以時(shí)間命名的文件夾，并且會(huì)生成以具體小時(shí)為單位的具體時(shí)間命名的 Markdown 文件，如下：

在這里插入圖片描述