python爬蟲實(shí)例之獲取動(dòng)漫截圖
引言
之前有些無聊（呆在家里實(shí)在玩的膩了），然后就去B站看了一些python爬蟲視頻，沒有進(jìn)行基礎(chǔ)的理論學(xué)習(xí)，也就是直接開始實(shí)戰(zhàn)，感覺跟背公式一樣的進(jìn)行爬蟲，也算行吧，至少還能爬一些東西，hhh。我今天來分享一個(gè)我的爬蟲代碼。
正文
話不多說，直接上完整代碼
ps：這個(gè)代碼有些問題 每次我爬到fate的圖片它就給我報(bào)錯(cuò)，我只好用個(gè)try來跳過了，如果有哪位大佬能幫我找出錯(cuò)誤并給與糾正，我將不勝感激
import requests as r
import re
import os
import time
file_name = "動(dòng)漫截圖"
if not os.path.exists(file_name):
os.mkdir(file_name)
for p in range(1,34):
print("--------------------正在爬取第{}頁內(nèi)容------------------".format(p))
url = 'https://www.acgimage.com/shot/recommend?page={}'.format(p)
headers = {"user-agent"
: "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.162 Safari/537.36"}
resp = r.get(url, headers=headers)
html = resp.text
images = re.findall('data-original="(.*?)" ', html)
names =re.findall('title="(.*?)"', html)
#print(images)
#print(names)
dic = dict(zip(images, names))
for image in images:
time.sleep(1)
print(image, dic[image])
name = dic[image]
#name = image.split('/')[-1]
i = r.get(image, headers=headers).content
try:
with open(file_name + '/' + name + '.jpg' , 'wb') as f:
f.write(i)
except FileNotFoundError:
continue
先導(dǎo)入要使用的庫
import requests as r import re import os import time
然后去分析要去爬的網(wǎng)址： https://www.acgimage.com/shot/recommend
下圖是網(wǎng)址的內(nèi)容：
好了 url已經(jīng)確定
下面去尋找headers
找到user-agent 將其內(nèi)容復(fù)制到headers中
第一步就完成了
下面是代碼展示
url = 'https://www.acgimage.com/shot/recommend?page={}'.format(p)
headers = {"user-agent"
: "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.162 Safari/537.36"
}
然后檢索要爬的圖片內(nèi)容
從上圖就可以找到圖片的位置：data-origina=后面的內(nèi)容
以及圖片的名字：title=后面的內(nèi)容
然后用正則表達(dá)式re來檢索就行了
images = re.findall('data-original="(.*?)" ', html)
names =re.findall('title="(.*?)"', html)
最后將其保存就好了
i = r.get(image, headers=headers).content
with open(file_name + '/' + name + '.jpg' , 'wb') as f:
f.write(i)
還有就是一些細(xì)節(jié)了
比如換頁
第一頁網(wǎng)址：
https://www.acgimage.com/shot/recommend
第二頁網(wǎng)址：https://www.acgimage.com/shot/recommend?page=2
然后將page后面的數(shù)字改動(dòng)就可以跳到相應(yīng)的頁面
換頁的問題也就解決了
or p in range(1,34):
url = 'https://www.acgimage.com/shot/recommend?page={}'.format(p)
以及將爬到的圖片放到自己建立的文件zh
使用了os庫
file_name = "動(dòng)漫截圖" if not os.path.exists(file_name): os.mkdir(file_name)
以及為了不影響爬取的網(wǎng)站 使用了sleep函數(shù)
雖然爬取的速度慢了一些
但是這是應(yīng)遵守的道德
time.sleep(1)
以上 這就是我的爬蟲過程
還是希望大佬能解決我的錯(cuò)誤之處
萬分感謝
總結(jié)
到此這篇關(guān)于python爬蟲實(shí)例之獲取動(dòng)漫截圖的文章就介紹到這了,更多相關(guān)python爬蟲獲取動(dòng)漫截圖內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
- python實(shí)現(xiàn)人像動(dòng)漫化的示例代碼
- python爬蟲智能翻頁批量下載文件的實(shí)例詳解
- vscode如何安裝漢化和Python智能感知
- python實(shí)現(xiàn)智能語音天氣預(yù)報(bào)
- python實(shí)現(xiàn)人工智能Ai摳圖功能
- Python人工智能之路 jieba gensim 最好別分家之最簡(jiǎn)單的相似度實(shí)現(xiàn)
- Python人工智能之路 之PyAudio 實(shí)現(xiàn)錄音 自動(dòng)化交互實(shí)現(xiàn)問答
- python實(shí)戰(zhàn)之百度智能云使人像動(dòng)漫化
相關(guān)文章
Numpy提供了多種函數(shù)和方法，可以方便地生成不同形狀和類型的數(shù)組，今天小編就帶大家學(xué)習(xí)一下如何利用?Numpy?生成各種各樣的數(shù)組吧2023-07-07
Python數(shù)據(jù)分析之?Matplotlib?餅圖繪制
這篇文章主要介紹了Python數(shù)據(jù)分析之?Matplotlib?餅圖繪制，文章基于python的相關(guān)資料展開詳細(xì)的餅圖繪制，具有一定的參考價(jià)值，需要的小伙伴可以參考一下2022-05-05
本文主要介紹了pandas歸一化與反歸一化操作實(shí)現(xiàn)，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2023-01-01
這篇文章主要介紹了pandas分組聚合詳解，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-04-04
這篇文章主要介紹了基于Python制作一副撲克牌過程詳解,文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-10-10
使用Python讀取Excel數(shù)據(jù)在PPT中創(chuàng)建圖表
使用Python從Excel讀取數(shù)據(jù)并在PowerPoint幻燈片中創(chuàng)建圖表不僅能夠極大地簡(jiǎn)化圖表創(chuàng)建過程,通過Python這一橋梁,我們可以輕松實(shí)現(xiàn)數(shù)據(jù)自動(dòng)化處理和圖表生成,本文將演示如何使用Python讀取Excel數(shù)據(jù)在PPT中創(chuàng)建圖表,需要的朋友可以參考下2024-08-08
這篇文章主要為大家信息介紹了Python繪制莖葉圖的相關(guān)知識(shí),文中的示例代碼講解詳細(xì),具有一定的借鑒價(jià)值,感興趣的小伙伴可以跟隨小編一起學(xué)習(xí)一下2024-01-01
這篇文章主要介紹了Python爬取Coursera課程資源的詳細(xì)過程,需要的朋友可以參考下2014-11-11
python利用smtplib實(shí)現(xiàn)QQ郵箱發(fā)送郵件
這篇文章主要為大家詳細(xì)介紹了python利用smtplib實(shí)現(xiàn)QQ郵箱發(fā)送郵件，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下2018-05-05
Python split() 函數(shù)拆分字符串將字符串轉(zhuǎn)化為列的方法
今天小編就為大家分享一篇Python split() 函數(shù)拆分字符串將字符串轉(zhuǎn)化為列的方法，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2019-07-07