python3爬蟲獲取html內容及各屬性值的方法
更新時間:2018年12月17日 14:36:31 作者:android-李志強
今天小編就為大家分享一篇python3爬蟲獲取html內容及各屬性值的方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
今天用到BeautifulSoup解析爬下來的網頁數據
首先導入包from bs4 import BeautifulSoup
然后可以利用urllib請求數據
記得要導包
import urllib.request
然后調用urlopen,讀取數據
f=urllib.request.urlopen(‘http://jingyan.baidu.com/article/455a9950bc94b8a166277898.html‘) response=f.read()
這里我們就不請求數據了,直接用本地的html代碼,如下
注意:”'xxx”'是多行注釋
#python3 from bs4 import BeautifulSoup html='''<html> <head> <title class='ceshi'>super 哈哈 star</title> </head> <body> 天下第一帥 <p class='sister'> 是不是 </p> </body> </html>''' #用BeautifulSoup解析數據 python3 必須傳入參數二'html.parser' 得到一個對象,接下來獲取對象的相關屬性 html=BeautifulSoup(html,'html.parser') # 讀取title內容 print(html.title) # 讀取title屬性 attrs=html.title.attrs print(attrs) # 獲取屬性attrs['class'] ---->['ceshi'] 這是一個list 通過下標可以獲取值 print(attrs['class'][0]) # 讀取body print(html.body) 讀取數據還可以通過BeautifulSoup的select方法 html.select() #按標簽名查找 soup.select('title') soup.select('body') # 按類名查找 soup.select('.sister') # 按id名查找 # p標簽中id為link的標簽 soup.select('p #link') #取標簽里面的值 soup.p.string #取標簽里屬性值 通過href獲取 html['href']
以上這篇python3爬蟲獲取html內容及各屬性值的方法就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關文章
python django使用haystack:全文檢索的框架(實例講解)
下面小編就為大家?guī)硪黄猵ython django使用haystack:全文檢索的框架(實例講解)。小編覺得挺不錯的,現在就分享給大家,也給大家做個參考。一起跟隨小編過來看看吧2017-09-09