python用match()函數(shù)爬數(shù)據(jù)方法詳解
match()函數(shù)的使用。以及從文本中提取數(shù)據(jù)的方法。在學習re模塊的相關函數(shù)前應了解正則表達式的特殊字符
準備一個要爬取的文本文檔:
直接從某個網(wǎng)頁拷貝一份代碼,粘貼在 一個txt文件里,以供學習。
方法很簡單,比如打開百度視頻的熱門電影網(wǎng)頁,右鍵點擊查看源代碼,然后復制,粘貼到一個txt文件里,保存到工作目錄下。
有4000多行。
re.match(pattern, string, flags=0)
①pattern,是正則表達式。string,被檢驗的字符串。
②flags是可選參數(shù),此標記是用來對patten的補充。例如:re.S,可以讓正則表達式中的點匹配換行符\n。(如圖片中,可以看幫助文檔,查看有哪些標記)
③ match()函數(shù)由左向右檢驗string,若匹配到正則表達式,返回一個匹配對象,否則就返回None.
④re.match() 匹配字符串的開始位置,而不匹配每行開始。
----所以才將網(wǎng)頁的每行放入列表,以供match函數(shù)對每行操作。
比如要在文檔中,提取電影的網(wǎng)址,和電影名。
①復制那行文本作為表達式,
②將要提取的網(wǎng)址和和電影名替換為(.*),這只是暫時的,可以在接下來的代碼中調整。
讀取文本:
①用with open()語句讀??;
②用readlines,一次性讀完,返回一個列表,元素是文本的每一行。
with open('aa.txt','r',encoding='utf-8') as f: lines=f.readlines()
①判斷每行是否返回了匹配的對象,
②接收匹配對象,并用groups()提取表達式內括號的內容;
for line in lines: if re.match(pat,line): #判斷過濾掉返回None的行, ret=re.match(pat,line) #接收匹配對象 print(ret.groups())
發(fā)現(xiàn)有不符合的行,稍加修改,過濾掉不符合的行:
因為,不合的行都有空格(或其他字符)。可以給第二子組的點 . 換成非[^ ];非空格的任意字符,意思就是不要有空格的。
用f-string格式化對輸出的文本稍加修飾,使用group(1),group(2);
可以將這段代碼封裝為一個函數(shù)。爬取百度視頻的其他欄目。
測試: 百度視頻的電影,電視劇,和動漫等欄目,網(wǎng)頁上的格式基本相同,所以用上面的函數(shù)直接套用。
打開百度視頻的動漫,復制源代碼,存為bb.txt。
同樣可以爬取網(wǎng)址和視頻名稱。
以上僅是練習match()函數(shù)的例子。
以上就是關于python如何用match()函數(shù)爬數(shù)據(jù)的全部內容,感謝大家的閱讀和對腳本之家的支持。
相關文章
Python?Watchdog實現(xiàn)實時監(jiān)控文件系統(tǒng)
Python?Watchdog是一個優(yōu)秀的第三方庫,用于實現(xiàn)高效的文件系統(tǒng)監(jiān)控,本文將為大家詳細介紹一下Python如何使用Watchdog實現(xiàn)實時監(jiān)控文件,需要的可以參考下2023-11-11centos6.5安裝python3.7.1之后無法使用pip的解決方案
今天小編就為大家分享一篇關于centos6.5安裝python3.7.1之后無法使用pip的解決方案,小編覺得內容挺不錯的,現(xiàn)在分享給大家,具有很好的參考價值,需要的朋友一起跟隨小編來看看吧2019-02-02Django Admin后臺添加數(shù)據(jù)庫視圖過程解析
這篇文章主要介紹了Django Admin后臺添加數(shù)據(jù)庫視圖過程解析,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下2020-04-04Python 對象序列化與反序列化之pickle json詳細解析
我們知道在Python中,一切皆為對象,實例是對象,類是對象,元類也是對象。本文正是要聊聊如何將這些對象有效地保存起來,以供后續(xù)使用2021-09-09python 基于空間相似度的K-means軌跡聚類的實現(xiàn)
這篇文章主要介紹了python 基于空間相似度的K-means軌跡聚類的實現(xiàn),文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2021-03-03python 協(xié)程中的迭代器,生成器原理及應用實例詳解
這篇文章主要介紹了python 協(xié)程中的迭代器,生成器原理及應用,結合具體實例形式詳細分析了Python協(xié)程中的迭代器,生成器概念、原理及應用操作技巧,需要的朋友可以參考下2019-10-10