python爬蟲 正則表達(dá)式解析
這篇文章主要介紹了python爬蟲 正則表達(dá)式解析,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下
- re.I # 忽略大小寫
- re.M # 多行匹配,將正則作用到源數(shù)據(jù)的每一行
- re.S # 單行匹配,將正則作用到整個(gè)源數(shù)據(jù),輸出一個(gè)整體字符串(包括換行符也打?。?/p>
string = '''fall in love with you i love you very much i love she i love her''' # 去除以i開頭的每一行數(shù)據(jù) re.findall('^i.*',string,re.M)
['i love you very much', 'i love she', 'i love her']
#匹配全部行 string1 = """細(xì)思極恐 你的隊(duì)友在看書 你的敵人在磨刀 你的閨蜜在減肥 隔壁老王在練腰 """ re.findall('.*',string1,re.S)
['細(xì)思極恐\n你的隊(duì)友在看書\n你的敵人在磨刀\n你的閨蜜在減肥\n隔壁老王在練腰\n', '']
爬取糗事百科中所有的圖片進(jìn)行保存
import requests import re import urllib import os url = 'https://www.qiushibaike.com/pic/page/%d/?s=5170552' # 自定義請求頭信息 headers = { 'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3626.119 Safari/537.36' } # 判斷是否存在名為qiutu的文件夾,如果不存在則創(chuàng)建文件夾 if not os.path.exists('./qiutu'): os.mkdir('./qiutu') # 手動(dòng)輸入開始頁,結(jié)束頁 start_page = int(input('start>>>')) end_page = int(input('end>>>')) for page in range(start_page,end_page+1): # 按照每頁url形式拼接指定url new_url = format(url%page) # 發(fā)起請求 page_text = requests.get(url=new_url,headers=headers).text # 使用正則找出page_text頁面中所有圖片url img_url_list = re.findall('<div class="thumb">.*?<img src="(.*?)" alt=.*?</div>',page_text,re.S) # 給每一個(gè)圖片url添加https協(xié)議頭 for img_url in img_url_list: img_url = 'https:' + img_url # 將圖片url切割去除圖片名稱,作為存儲(chǔ)時(shí)圖片的名稱 img_name = img_url.split('/')[-1] img_path = 'qiutu/' + img_name、 # 對圖片做持久化存儲(chǔ) urllib.request.urlretrieve(url=img_url,filename=img_path) print(img_path,'下載成功') print('over')
以上就是本文的全部內(nèi)容,希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
Python面向?qū)ο笾甒eb靜態(tài)服務(wù)器
這篇文章主要為大家詳細(xì)介紹了Python面向?qū)ο笾甒eb靜態(tài)服務(wù)器,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2019-09-09PyCharm 安裝與使用配置教程(windows,mac通用)
很多小伙伴下載安裝PyCharm后不會(huì)使用,這篇文章詳細(xì)介紹了PyCharm安裝與使用教程(windows,mac通用),需要的朋友可以參考下2021-05-05Python3 pyecharts生成Html文件柱狀圖及折線圖代碼實(shí)例
這篇文章主要介紹了Python3 pyecharts生成Html文件柱狀圖及折線圖代碼實(shí)例,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-09-09