python訪問抓取網(wǎng)頁常用命令總結(jié)
更新時間:2017年04月11日 15:34:37 投稿:lqh
這篇文章主要介紹了python訪問抓取網(wǎng)頁常用命令的相關(guān)資料,需要的朋友可以參考下
python訪問抓取網(wǎng)頁常用命令
簡單的抓取網(wǎng)頁:
import urllib.request url="http://google.cn/" response=urllib.request.urlopen(url) #返回文件對象 page=response.read()
直接將URL保存為本地文件:
import urllib.request url="http://google.cn/" response=urllib.request.urlopen(url) #返回文件對象 page=response.read()
POST方式:
import urllib.parse
import urllib.request
url="http://liuxin-blog.appspot.com/messageboard/add"
values={"content":"命令行發(fā)出網(wǎng)頁請求測試"}
data=urllib.parse.urlencode(values)
#創(chuàng)建請求對象
req=urllib.request.Request(url,data)
#獲得服務(wù)器返回的數(shù)據(jù)
response=urllib.request.urlopen(req)
#處理數(shù)據(jù)
page=response.read()
GET方式:
import urllib.parse
import urllib.request
url="http://www.google.cn/webhp"
values={"rls":"ig"}
data=urllib.parse.urlencode(values)
theurl=url+"?"+data
#創(chuàng)建請求對象
req=urllib.request.Request(theurl)
#獲得服務(wù)器返回的數(shù)據(jù)
response=urllib.request.urlopen(req)
#處理數(shù)據(jù)
page=response.read()
有2個常用的方法,geturl(),info()
geturl()的設(shè)置是為了辨別是否有服務(wù)器端的網(wǎng)址重定向,而info()則包含了一系列的信息。
中文問題的處理,會用到 encode()編碼 dencode()解碼:
感謝閱讀,希望能幫助到大家,謝謝大家對本站的支持!
您可能感興趣的文章:
- python并發(fā)編程之多進(jìn)程、多線程、異步和協(xié)程詳解
- Python控制多進(jìn)程與多線程并發(fā)數(shù)總結(jié)
- python實現(xiàn)多線程的方式及多條命令并發(fā)執(zhí)行
- python多線程threading.Lock鎖用法實例
- 詳解Python中的多線程編程
- 淺析Python中的多進(jìn)程與多線程的使用
- 基python實現(xiàn)多線程網(wǎng)頁爬蟲
- Python threading多線程編程實例
- python實現(xiàn)用于測試網(wǎng)站訪問速率的方法
- Python的Django應(yīng)用程序解決AJAX跨域訪問問題的方法
- Python實現(xiàn)多并發(fā)訪問網(wǎng)站功能示例
相關(guān)文章
Python實現(xiàn)快速替換Word文檔中的關(guān)鍵字
使用Python自動化處理Word文檔可以幫助您提高效率,并減少手動處理文檔所需的時間和精力,所以本文為大家準(zhǔn)備了Python快速替換Word文檔中的關(guān)鍵字的方法,希望對大家有所幫助2023-06-06
Python繪圖實現(xiàn)坐標(biāo)軸共享與復(fù)用詳解
這篇文章主要為大家詳細(xì)介紹了Python在繪圖時如何實現(xiàn)坐標(biāo)軸共享與復(fù)用,文中的示例代碼講解詳細(xì),感興趣的小伙伴可以跟隨小編一起學(xué)習(xí)一下2024-02-02
Python字典查找數(shù)據(jù)的5個基礎(chǔ)操作方法
Python字典是另一種可變?nèi)萜髂P?且可存儲任意類型對象,如字符串、數(shù)字、元組等其他容器模型,下面這篇文章主要給大家介紹了關(guān)于Python字典查找數(shù)據(jù)的5個基礎(chǔ)操作方法,需要的朋友可以參考下2022-06-06

