python爬蟲模塊URL管理器模塊用法解析
這篇文章主要介紹了python爬蟲模塊URL管理器模塊用法解析,文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下
URL管理器模塊
一般是用來維護(hù)爬取的url和未爬取的url已經(jīng)新添加的url的，如果隊(duì)列中已經(jīng)存在了當(dāng)前爬取的url了就不需要再重復(fù)爬取了，另外防止造成一個死循環(huán)。舉個例子
我爬www.baidu.com 其中我抓取的列表中有music.baidu.om，然后我再繼續(xù)抓取該頁面的所有鏈接，但是其中含有www.baidu.com，可以想象如果不做處理的話就成了一個死循環(huán)了，在百度首頁和百度音樂頁循環(huán)，所以有一個對列來維護(hù)URL是很重要的。
下面以python代碼實(shí)現(xiàn)為例，使用的deque雙向隊(duì)列方便取出以前的url。
from collections import deque
class URLQueue():
def __init__(self):
self.queue = deque() # 待抓取的網(wǎng)頁
self.visited = set() # 已經(jīng)抓取過的網(wǎng)頁
def new_url_size(self):
'''''
獲取未爬取URL集合的大小
:return:
'''
return len(self.queue)
def old_url_size(self):
'''''
獲取已爬取URL的大小
:return:
'''
return len(self.visited)
def has_new_url(self):
'''''
判斷是否有未爬取的URL
:return:
'''
return self.new_url_size() != 0
def get_new_url(self):
'''''
獲取一個未爬取的URL
:return:
'''
new_url = self.queue.popleft()#從左側(cè)取出一個鏈接
self.old_urls.add(new_url)#記錄已經(jīng)抓取
return new_url
def add_new_url(self, url):
'''''
將新的URL添加到未爬取的URL集合
:param url: 單個url
:return:
'''
if url is None:
return False
if url not in self.new_urls and url not in self.old_urls:
self.new_urls.append(url)
def add_new_urls(self, urlset):
'''''
將新的URL添加到未爬取的URL集合
:param urlset: url集合
:return:
'''
if urlset is None or len(urlset) == 0:
return
for url in urlset:
self.add_new_url(url)
以上就是本文的全部內(nèi)容，希望對大家的學(xué)習(xí)有所幫助，也希望大家多多支持腳本之家。
相關(guān)文章
使paramiko庫執(zhí)行命令時在給定的時間強(qiáng)制退出功能的實(shí)現(xiàn)
這篇文章主要介紹了使paramiko庫執(zhí)行命令時，在給定的時間強(qiáng)制退出,本文通過實(shí)例代碼給大家介紹的非常詳細(xì)，對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值，需要的朋友可以參考下2021-03-03
本文主要介紹了Tkinter組件Entry的具體使用，Entry組件通常用于獲取用戶的輸入文本，文中通過示例代碼介紹的非常詳細(xì)，具有一定的參考價值，感興趣的小伙伴們可以參考一下2022-01-01
Python 實(shí)現(xiàn)刪除某路徑下文件及文件夾的實(shí)例講解
下面小編就為大家分享一篇Python 實(shí)現(xiàn)刪除某路徑下文件及文件夾的實(shí)例講解，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2018-04-04
這篇文章給大家介紹了如何利用Python畫ROC曲線，以及AUC值的計(jì)算，有需要的朋友們可以參考借鑒，下面來一起看看吧。2016-09-09
用Python實(shí)現(xiàn)數(shù)據(jù)篩選與匹配實(shí)例
大家好，本篇文章主要講的是用Python實(shí)現(xiàn)數(shù)據(jù)篩選與匹配實(shí)例，感興趣的同學(xué)趕快來看一看吧，對你有幫助的話記得收藏一下2022-02-02
在數(shù)據(jù)處理時，為了方便統(tǒng)計(jì)經(jīng)常使用字典存儲數(shù)據(jù)。python中的字典是‘鍵:值’對的可變序列。排序時可以指定根據(jù)鍵或者是值為對象進(jìn)行排序。用到的函數(shù)是sorted()，需要的朋友們下面隨著小編來一起學(xué)習(xí)吧2022-10-10
Python利用雪花算法實(shí)現(xiàn)生成唯一ID
雪花算法是在一個項(xiàng)目體系中生成全局唯一ID標(biāo)識的一種方式，偶然間看到了Python使用雪花算法不盡感嘆真的是太便捷了。本文就來聊聊這具體的實(shí)現(xiàn)方法，感興趣的可以了解一下2022-11-11
今天小編就為大家分享一篇基于python cut和qcut的用法及區(qū)別詳解，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2019-11-11
利用Python繪制MySQL數(shù)據(jù)圖實(shí)現(xiàn)數(shù)據(jù)可視化
這篇文章主要介紹了利用Python繪制MySQL數(shù)據(jù)圖實(shí)現(xiàn)數(shù)據(jù)可視化,其中包括Python與MySQL的連接搭建、用Python執(zhí)行MySQL語句查詢等內(nèi)容，需要的朋友可以參考下2015-03-03
狀態(tài)機(jī)的概念和在Python下使用狀態(tài)機(jī)的教程
這篇文章主要介紹了狀態(tài)機(jī)的概念和在Python下使用狀態(tài)機(jī)的教程,本文來自于IBM官方開發(fā)者技術(shù)文檔,需要的朋友可以參考下2015-04-04