欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

python正則爬取某段子網(wǎng)站前20頁段子(request庫)過程解析

 更新時(shí)間:2019年08月10日 14:46:12   作者:springionic  
這篇文章主要介紹了python正則爬取某段子網(wǎng)站前20頁段子(request庫)過程解析,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下

首先還是谷歌瀏覽器抓包對該網(wǎng)站數(shù)據(jù)進(jìn)行分析,結(jié)果如下:

該網(wǎng)站地址:http://www.budejie.com/text

該網(wǎng)站數(shù)據(jù)都是通過html頁面進(jìn)行展示,網(wǎng)站url默認(rèn)為第一頁,http://www.budejie.com/text/2為第二頁,以此類推

對網(wǎng)站的內(nèi)容段子所處位置進(jìn)行分析,發(fā)現(xiàn)段子內(nèi)容都是在一個(gè) a 標(biāo)簽中

坑還是有的,這是我第一次寫的正則:

content_list = re.findall(r'<a href="/detail-.*" rel="external nofollow" rel="external nofollow" rel="external nofollow" >(.+?)</a>', html_str)

之后發(fā)現(xiàn)竟然匹配到了一些推薦的內(nèi)容,最后我把正則改變下面這樣,發(fā)現(xiàn)沒有問題了,關(guān)于正則的知識這里就不做過多解釋了

content_list = re.findall(r'<div class="j-r-list-c-desc">\s*<a href="/detail-.*" rel="external nofollow" rel="external nofollow" rel="external nofollow" >(.+?)</a>', html_str)

現(xiàn)在要的是爬取前20頁的段子并保存到本地,已經(jīng)知道翻頁的規(guī)律和匹配內(nèi)容的正則,就直接可以寫代碼了

代碼如下,整體思路還是和前兩排爬蟲博客一樣,面向?qū)ο蟮膶懛ǎ?/strong>

import requests
import re
import json

class NeihanSpider(object):
  """內(nèi)涵段子,百思不得其姐,正則爬取一頁的數(shù)據(jù)"""
  def __init__(self):
    self.temp_url = 'http://www.budejie.com/text/{}' # 網(wǎng)站地址,給頁碼留個(gè)可替換的{}
    self.headers = {
      'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/75.0.3770.100 Safari/537.36',
    }

  def pass_url(self, url): # 發(fā)送請求,獲取響應(yīng)
    print(url)
    response = requests.get(url, headers=self.headers)
    return response.content.decode()

  def get_first_page_content_list(self, html_str): # 提取第一頁的數(shù)據(jù)
    content_list = re.findall(r'<div class="j-r-list-c-desc">\s*<a href="/detail-.*" rel="external nofollow" rel="external nofollow" rel="external nofollow" >(.+?)</a>', html_str) # 非貪婪匹配
    return content_list

  def save_content_list(self, content_list):
    with open('neihan.txt', 'a', encoding='utf-8') as f:
      for content in content_list:
        f.write(json.dumps(content, ensure_ascii=False))
        f.write('\n') # 換行
      print('成功保存一頁!')

  def run(self): # 實(shí)現(xiàn)主要邏輯
    for i in range(20): # 只爬取前20頁數(shù)據(jù)
      # 1. 構(gòu)造url
      # 2. 發(fā)送請求,獲取響應(yīng)
      html_str = self.pass_url(self.temp_url.format(i+1))
      # 3. 提取數(shù)據(jù)
      content_list = self.get_first_page_content_list(html_str)
      # 4. 保存
      self.save_content_list(content_list)

if __name__ == '__main__':
  neihan = NeihanSpider()
  neihan.run()

以上就是本文的全部內(nèi)容,希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。

相關(guān)文章

  • Python推導(dǎo)式之字典推導(dǎo)式和集合推導(dǎo)式使用體驗(yàn)

    Python推導(dǎo)式之字典推導(dǎo)式和集合推導(dǎo)式使用體驗(yàn)

    這篇文章主要為大家介紹了Python推導(dǎo)式之字典推導(dǎo)式和集合推導(dǎo)式使用示例詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪
    2023-06-06
  • 關(guān)于python類SortedList詳解

    關(guān)于python類SortedList詳解

    這篇文章主要介紹了關(guān)于python類SortedList詳解,可以幫大家鞏固一下python類的基礎(chǔ)知識,有需要的朋友可以借鑒參考下,希望可以對廣大讀者有所幫助
    2021-09-09
  • Python 實(shí)時(shí)獲取任務(wù)請求對應(yīng)的Nginx日志的方法

    Python 實(shí)時(shí)獲取任務(wù)請求對應(yīng)的Nginx日志的方法

    本文給大家分享Python 實(shí)時(shí)獲取任務(wù)請求對應(yīng)的Nginx日志的方法,本文通過實(shí)例代碼給大家介紹的非常詳細(xì),需要的朋友參考下吧
    2021-07-07
  • 利用python繪制線型圖

    利用python繪制線型圖

    這篇文章主要介紹了利用python繪制線型圖,文章圍繞主題的相關(guān)資料展開詳細(xì)的內(nèi)容介紹,具有一定的參考價(jià)值,感興趣的下伙伴可以參考一下
    2022-06-06
  • python中正則表達(dá)式findall的用法實(shí)例

    python中正則表達(dá)式findall的用法實(shí)例

    在寫著自動化測試的腳本時(shí)重新復(fù)習(xí)了一下正則表達(dá)式findall()方法,下面這篇文章主要給大家介紹了關(guān)于python中正則表達(dá)式findall用法的相關(guān)資料,文中通過實(shí)例代碼介紹的非常詳細(xì),需要的朋友可以參考下
    2022-09-09
  • Django用戶認(rèn)證系統(tǒng) Web請求中的認(rèn)證解析

    Django用戶認(rèn)證系統(tǒng) Web請求中的認(rèn)證解析

    這篇文章主要介紹了Django用戶認(rèn)證系統(tǒng) Web請求中的認(rèn)證解析,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下
    2019-08-08
  • 使用PyCharm官方中文語言包漢化PyCharm

    使用PyCharm官方中文語言包漢化PyCharm

    這篇文章主要介紹了使用PyCharm官方中文語言包漢化PyCharm,需要的朋友可以參考下
    2020-11-11
  • Django ORM 常用字段與不常用字段匯總

    Django ORM 常用字段與不常用字段匯總

    這篇文章主要介紹了Django ORM 常用字段與不常用字段匯總,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下
    2019-08-08
  • Python基礎(chǔ)詳解之郵件處理

    Python基礎(chǔ)詳解之郵件處理

    這篇文章主要介紹了Python基礎(chǔ)詳解之郵件處理,文中有非常詳細(xì)的代碼示例,對正在學(xué)習(xí)python基礎(chǔ)的小伙伴們有非常好的幫助,需要的朋友可以參考下
    2021-04-04
  • Python實(shí)現(xiàn)包含min函數(shù)的棧

    Python實(shí)現(xiàn)包含min函數(shù)的棧

    這篇文章主要介紹了Python實(shí)現(xiàn)包含min函數(shù)的棧,可實(shí)現(xiàn)棧中元素的計(jì)算及進(jìn)棧出棧等操作,需要的朋友可以參考下
    2016-04-04

最新評論