欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

Python爬取網(wǎng)頁信息的示例

 更新時(shí)間:2020年09月24日 16:03:48   作者:小高冷  
這篇文章主要介紹了Python爬取網(wǎng)頁信息的示例,幫助大家更好的理解和學(xué)習(xí)python 爬蟲,感興趣的朋友可以了解下

Python爬取網(wǎng)頁信息的步驟

以爬取英文名字網(wǎng)站(https://nameberry.com/)中每個(gè)名字的評(píng)論內(nèi)容,包括英文名,用戶名,評(píng)論的時(shí)間和評(píng)論的內(nèi)容為例。

1、確認(rèn)網(wǎng)址

在瀏覽器中輸入初始網(wǎng)址,逐層查找鏈接,直到找到需要獲取的內(nèi)容。

在打開的界面中,點(diǎn)擊鼠標(biāo)右鍵,在彈出的對(duì)話框中,選擇“檢查”,則在界面會(huì)顯示該網(wǎng)頁的源代碼,在具體內(nèi)容處點(diǎn)擊查找,可以定位到需要查找的內(nèi)容的源碼。

注意:代碼顯示的方式與瀏覽器有關(guān),有些瀏覽器不支持顯示源代碼功能(360瀏覽器,谷歌瀏覽器,火狐瀏覽器等是支持顯示源代碼功能)

步驟圖:

1)首頁,獲取A~Z的頁面鏈接

2)名字鏈接頁,獲取每個(gè)字母中的名字鏈接(存在翻頁情況)

3)名字內(nèi)容頁,獲取每個(gè)名字的評(píng)論信息

2、編寫測(cè)試代碼

1)獲取A~Z鏈接,在爬取網(wǎng)頁信息時(shí),為了減少網(wǎng)頁的響應(yīng)時(shí)間,可以根據(jù)已知的信息,自動(dòng)生成對(duì)應(yīng)的鏈接,這里采取自動(dòng)生成A~Z之間的連接,以pandas的二維數(shù)組形式存儲(chǔ)

def get_url1():
 urls=[]
 # A,'B','C','D','E','F','G','H','I','J','K','L','M','N','O','P','Q','R','S','T','U','V','W','X','Y','Z'
 a=['A','B','C','D','E','F','G','H','I','J','K','L','M','N','O','P','Q','R','S','T','U','V','W','X','Y','Z']    #自動(dòng)生成A~Z的鏈接
 for i in a:
  urls.append("https://nameberry.com/search/baby_names_starting_with/%s" %i)
 dp=pd.DataFrame(urls)
 dp.to_csv("A~Z_Link1.csv",mode="a",encoding='utf_8_sig')    #循環(huán)用于在每個(gè)字母鏈接下,調(diào)用爬取名字鏈接的頁面的函數(shù),即函數(shù)嵌套
 for j in urls:
  get_pages_Html(j)
 return urls

2)獲取名字鏈接,根據(jù)網(wǎng)頁源碼分析出包含名字鏈接的標(biāo)簽,編寫代碼,名字鏈接用直接存儲(chǔ)的方式存儲(chǔ),方便讀取名字鏈接進(jìn)行對(duì)名字的評(píng)論內(nèi)容的獲取

#獲取頁數(shù)
def get_pages_Html(url1):
 req = requests.get(url1)
 soup=BeautifulSoup(req.text)
#異常處理,為解決頁面不存在多頁的問題,使用re正則表達(dá)式獲取頁面數(shù)
 try:
  lastpage = soup.find(class_="last").find("a")['href']
  str1='{}'.format(lastpage)
  b=re.findall('\\d+', str1 )
  for page in b:
   num=page
 except:
  num=1
 get_pages(num,url1)
 return num

def get_pages(n,url):
 pages=[]
 for k in range(1,int(n)+1):
  pages.append("{}?page={}".format(url,k))
 dp=pd.DataFrame(pages)
 dp.to_csv("NUM_pages_1.csv",mode="a",encoding='utf_8_sig')
  #函數(shù)調(diào)用
 for l in pages:
  parse_HTML2(l)
 return pages


# 名字的鏈接,根據(jù)網(wǎng)頁源碼的標(biāo)簽,確定名字鏈接的位置
def parse_HTML2(url2):
 try:
  req = requests.get(url2)
  req.encoding = req.apparent_encoding
  soup = BeautifulSoup(req.text)
 except:
  dp=pd.DataFrame(url2)
  dp.to_csv("Error_pages_1.csv",mode="a",encoding='utf_8_sig')
 name_data_l=[]
 error=[]
 li_list = soup.find_all('li',class_="Listing-name pt-15 pb-15 bdb-gray-light w-100pct flex border-highlight")
 try:
  for li in li_list:
   nameList=li.find('a',class_='flex-1')['href']
   name_data_l.append('https://nameberry.com/'+nameList)
   time.sleep(1)
  cun(name_data_l,'Name_List_1')
 except:
  dp=pd.DataFrame(name_data_l)
  dp.to_csv("Error_Name_List_1.csv",mode="a",encoding='utf_8_sig')
  # cun(url2,'Error_link_Q')
 # dp=pd.DataFrame(name_data_l)
 # dp.to_csv("Name_List.csv",mode="a",encoding='utf_8_sig')
 # for i in name_data_l:
 #  parse_HTML3(i)
 return name_data_l

3)獲取名字評(píng)論的內(nèi)容,采用字典形式寫入文件

# 名字里的內(nèi)容
def parse_HTML3(url3):
 count=0
 req = requests.get(url3)
 req.encoding = req.apparent_encoding
 soup = BeautifulSoup(req.text)
 error=[]
 try:
  Name=soup.find('h1',class_='first-header').find("a").get_text().replace(",","").replace("\n","")
 except:
  error.append(url3)
  cun(error,"Error_Link_Comment")
 li_list = soup.find_all('div',class_="comment")
 for li in li_list:
  Title=li.find("h4").get_text().replace(",","").replace("\n","")
  Time=li.find("p",class_='meta').get_text().replace(",","").replace("\n","")
  Comments=li.find("div",class_='comment-text').get_text().replace(",","").replace("\n","")
  dic2={
   "Name":Name,
   "Title":Title,
   "Time":Time,
   "Comments":Comments
  }
  time.sleep(1)
  count=count+1
  save_to_csv(dic2,"Name_data_comment")
  print(count)
 return 1

3、測(cè)試代碼

1)代碼編寫完成后,具體的函數(shù)調(diào)用邏輯,獲取鏈接時(shí),為直接的函數(shù)嵌套,獲取內(nèi)容時(shí),為從文件中讀取出名字鏈接,在獲取名字的評(píng)論內(nèi)容。避免因?yàn)橹饘釉L問,造成訪問網(wǎng)頁超時(shí),出現(xiàn)異常。

如圖:

2)測(cè)試結(jié)果

 4、小結(jié)

在爬取網(wǎng)頁內(nèi)容時(shí),要先分析網(wǎng)頁源碼,再進(jìn)行編碼和調(diào)試,遵從爬蟲協(xié)議(嚴(yán)重者會(huì)被封號(hào)),在爬取的數(shù)據(jù)量非常大時(shí),可以設(shè)置順序部分請(qǐng)求(一部分的進(jìn)行爬取網(wǎng)頁內(nèi)容)。

總之,爬蟲有風(fēng)險(xiǎn),測(cè)試需謹(jǐn)慎?。?!

以上就是Python爬取網(wǎng)頁信息的示例的詳細(xì)內(nèi)容,更多關(guān)于Python爬取網(wǎng)頁信息的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!

相關(guān)文章

  • 一文帶你了解Python中的雙下方法

    一文帶你了解Python中的雙下方法

    Python中有一些特殊方法的方法名都是以雙下劃線開始和結(jié)束,所以又被稱為雙下方法。本文就來為大家詳細(xì)講講Python中的雙下方法的使用,感興趣的可以了解一下
    2022-07-07
  • 基于Python的接口自動(dòng)化unittest測(cè)試框架和ddt數(shù)據(jù)驅(qū)動(dòng)詳解

    基于Python的接口自動(dòng)化unittest測(cè)試框架和ddt數(shù)據(jù)驅(qū)動(dòng)詳解

    這篇文章主要介紹了基于Python的接口自動(dòng)化unittest測(cè)試框架和ddt數(shù)據(jù)驅(qū)動(dòng)詳解,本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下
    2021-01-01
  • Python中的字典遍歷備忘

    Python中的字典遍歷備忘

    這篇文章主要介紹了Python中的字典遍歷備忘,本文列舉了多種字典遍歷方法,適合初學(xué)者查看,并簡(jiǎn)單講解了interitems和iterms區(qū)別,需要的朋友可以參考下
    2015-01-01
  • WIn10+Anaconda環(huán)境下安裝PyTorch(避坑指南)

    WIn10+Anaconda環(huán)境下安裝PyTorch(避坑指南)

    這篇文章主要介紹了WIn10+Anaconda環(huán)境下安裝PyTorch(避坑指南),小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過來看看吧
    2019-01-01
  • Python基于plotly模塊實(shí)現(xiàn)的畫圖操作示例

    Python基于plotly模塊實(shí)現(xiàn)的畫圖操作示例

    這篇文章主要介紹了Python基于plotly模塊實(shí)現(xiàn)的畫圖操作,涉及Python基于plotly模塊的數(shù)值運(yùn)算與圖形操作相關(guān)實(shí)現(xiàn)技巧,需要的朋友可以參考下
    2019-01-01
  • Python新手入門最容易犯的錯(cuò)誤總結(jié)

    Python新手入門最容易犯的錯(cuò)誤總結(jié)

    這篇文章主要總結(jié)了一些關(guān)于Python新手入門最容易犯的錯(cuò)誤,希望通過學(xué)習(xí)本文總結(jié)的十二點(diǎn)易犯錯(cuò)誤點(diǎn),能夠給新手們帶來一定的幫助,需要的朋友可以參考學(xué)習(xí),下面來一起看看吧。
    2017-04-04
  • python安裝以及IDE的配置教程

    python安裝以及IDE的配置教程

    Python在Linux、windows、Mac os等操作系統(tǒng)下都有相應(yīng)的版本,不管在什么操作系統(tǒng)下,它都能夠正常工作。除非使用平臺(tái)相關(guān)功能,或特定平臺(tái)的程序庫,否則可以跨平臺(tái)使用。今天我們主要來探討下windows系統(tǒng)下的安裝與配置
    2015-04-04
  • 一文講解如何查看python腳本所依賴三方包及其版本

    一文講解如何查看python腳本所依賴三方包及其版本

    Python因?yàn)榫哂谐嗟牡谌綆於淮蠹蚁矚g,下面這篇文章主要給大家介紹了關(guān)于如何查看python腳本所依賴三方包及其版本的相關(guān)資料,文中通過圖文介紹的非常詳細(xì),需要的朋友可以參考下
    2023-03-03
  • 簡(jiǎn)單了解python關(guān)系(比較)運(yùn)算符

    簡(jiǎn)單了解python關(guān)系(比較)運(yùn)算符

    這篇文章主要介紹了簡(jiǎn)單了解python關(guān)系(比較)運(yùn)算符,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下
    2019-07-07
  • 利用pandas向一個(gè)csv文件追加寫入數(shù)據(jù)的實(shí)現(xiàn)示例

    利用pandas向一個(gè)csv文件追加寫入數(shù)據(jù)的實(shí)現(xiàn)示例

    這篇文章主要介紹了利用pandas向一個(gè)csv文件追加寫入數(shù)據(jù)的實(shí)現(xiàn)示例,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2020-04-04

最新評(píng)論