Python3實(shí)現(xiàn)爬取簡書首頁文章標(biāo)題和文章鏈接的方法【測試可用】
更新時(shí)間：2018年12月11日 11:52:37 作者：Sailfish23
這篇文章主要介紹了Python3實(shí)現(xiàn)爬取簡書首頁文章標(biāo)題和文章鏈接的方法,結(jié)合實(shí)例形式分析了Python3基于urllib及bs4庫針對(duì)簡書網(wǎng)進(jìn)行文章抓取相關(guān)操作技巧,需要的朋友可以參考下
本文實(shí)例講述了Python3實(shí)現(xiàn)爬取簡書首頁文章標(biāo)題和文章鏈接的方法。分享給大家供大家參考，具體如下：
from urllib import request
from bs4 import BeautifulSoup #Beautiful Soup是一個(gè)可以從HTML或XML文件中提取結(jié)構(gòu)化數(shù)據(jù)的Python庫
#構(gòu)造頭文件，模擬瀏覽器訪問
url="http://www.jianshu.com"
headers = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36'}
page = request.Request(url,headers=headers)
page_info = request.urlopen(page).read().decode('utf-8')#打開Url,獲取HttpResponse返回對(duì)象并讀取其ResposneBody
# 將獲取到的內(nèi)容轉(zhuǎn)換成BeautifulSoup格式，并將html.parser作為解析器
soup = BeautifulSoup(page_info, 'html.parser')
# 以格式化的形式打印html
#print(soup.prettify())
titles = soup.find_all('a', 'title')# 查找所有a標(biāo)簽中class='title'的語句
'''''
# 打印查找到的每一個(gè)a標(biāo)簽的string和文章鏈接
for title in titles:
print(title.string)
print("http://www.jianshu.com" + title.get('href'))
'''
#open()是讀寫文件的函數(shù),with語句會(huì)自動(dòng)close()已打開文件
with open(r"D:\articles.txt","w") as file: #在磁盤以只寫的方式打開/創(chuàng)建一個(gè)名為 articles 的txt文件
for title in titles:
file.write(title.string+'\n')
file.write("http://www.jianshu.com" + title.get('href')+'\n\n')
本機(jī)測試運(yùn)行結(jié)果如下：
更多關(guān)于Python相關(guān)內(nèi)容可查看本站專題：《Python Socket編程技巧總結(jié)》、《Python正則表達(dá)式用法總結(jié)》、《Python數(shù)據(jù)結(jié)構(gòu)與算法教程》、《Python函數(shù)使用技巧總結(jié)》、《Python字符串操作技巧匯總》、《Python入門與進(jìn)階經(jīng)典教程》及《Python文件與目錄操作技巧匯總》
希望本文所述對(duì)大家Python程序設(shè)計(jì)有所幫助。
您可能感興趣的文章:
- Python爬取APP下載鏈接的實(shí)現(xiàn)方法
- Python爬取京東的商品分類與鏈接
- python爬取盤搜的有效鏈接實(shí)現(xiàn)代碼
- 實(shí)例講解Python爬取網(wǎng)頁數(shù)據(jù)
- python爬取網(wǎng)站數(shù)據(jù)保存使用的方法
- Python實(shí)現(xiàn)爬取知乎神回復(fù)簡單爬蟲代碼分享
- python爬蟲實(shí)戰(zhàn)之爬取京東商城實(shí)例教程
- 以視頻爬取實(shí)例講解Python爬蟲神器Beautiful Soup用法
- Python實(shí)現(xiàn)爬取需要登錄的網(wǎng)站完整示例
- python制作爬蟲爬取京東商品評(píng)論教程
- python實(shí)現(xiàn)的爬取電影下載鏈接功能示例
相關(guān)文章
這篇文章主要介紹了Django接收自定義http header過程詳解,文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2019-08-08
PyQt5 窗口切換與自定義對(duì)話框的實(shí)例
今天小編就為大家分享一篇PyQt5 窗口切換與自定義對(duì)話框的實(shí)例，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2019-06-06
這篇文章主要介紹了python如何在文件中部插入信息問題，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方，望不吝賜教2022-11-11
今天小編就為大家分享一篇關(guān)于Python中的異常介紹，小編覺得內(nèi)容挺不錯(cuò)的，現(xiàn)在分享給大家，具有很好的參考價(jià)值，需要的朋友一起跟隨小編來看看吧2021-08-08
Beautiful Soup 是一個(gè) Python 庫,用于解析 HTML 和 XML 文檔,并提供簡單而直觀的 API 來遍歷文檔樹、搜索元素、提取內(nèi)容等,這篇文章主要介紹了Python Beautiful Soup 使用示例詳解,需要的朋友可以參考下2024-05-05
這篇文章主要介紹了python 基于wx實(shí)現(xiàn)音樂播放的示例代碼，幫助大家更好的理解和學(xué)習(xí)python，感興趣的朋友可以了解下2020-11-11
Python基礎(chǔ)學(xué)習(xí)之函數(shù)和代碼復(fù)用詳解
函數(shù)能提高應(yīng)用的模塊性,和代碼的重復(fù)利用率,下面這篇文章主要給大家介紹了關(guān)于Python基礎(chǔ)學(xué)習(xí)之函數(shù)和代碼復(fù)用的相關(guān)資料,文中通過實(shí)例代碼介紹的非常詳細(xì),需要的朋友可以參考下2022-08-08
Python import與from import使用和區(qū)別解讀
Python程序可以調(diào)用一組基本的函數(shù)（即內(nèi)建函數(shù)），比如print()、input()和len()等函數(shù)。接下來通過本文給大家介紹Python import與from import使用及區(qū)別介紹，感興趣的朋友一起看看吧2021-09-09
Elasticsearch映射字段數(shù)據(jù)類型及管理
這篇文章主要介紹了Elasticsearch映射字段數(shù)據(jù)類型及管理的講解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪2022-04-04
這篇文章主要為大家詳細(xì)介紹了python實(shí)現(xiàn)可逆簡單的加密算法，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下2019-03-03