Python采集圖片數(shù)據(jù)的實(shí)現(xiàn)示例
前言:
在網(wǎng)絡(luò)時(shí)代,圖片已經(jīng)成為了我們生活中不可或缺的一部分。隨著各種社交媒體的興起,我們可以在網(wǎng)上看到越來(lái)越多的圖片,但是如何從這些圖片中獲取有價(jià)值的信息,如何從中提取有用的知識(shí),卻是一個(gè)需要我們思考和探索的問(wèn)題。本文將介紹如何采集某個(gè)網(wǎng)站的圖片,并從中獲取有用的信息和知識(shí)。
發(fā)送請(qǐng)求
我們首先確定網(wǎng)址,我們先使用開發(fā)者工具,定位到我們要的數(shù)據(jù)。發(fā)現(xiàn),內(nèi)容就在網(wǎng)頁(yè)源代碼中。
url = 'https://www.hexuexiao.cn/tj/WuJiayi/' res = requests.get(url) # print(res.text) html_url = re.findall('<a rel="external nofollow" >',res.text,re.S) urls = sorted(list(set(html_url)), key=html_url.index)
我們這里html_url
變量的值是一個(gè)正則表達(dá)式對(duì)象,用于匹配網(wǎng)站圖片的鏈接。代碼塊 list(set(html_url))
將列表對(duì)象轉(zhuǎn)換為集合對(duì)象,使用 set()
方法將列表對(duì)象轉(zhuǎn)換為集合對(duì)象,這是一個(gè)將列表中的元素轉(zhuǎn)換為集合的方法。html_url.index
是一個(gè)整數(shù)對(duì)象,表示 html_url
中各元素在原始 HTML 字符串中出現(xiàn)的次數(shù),以此來(lái)實(shí)現(xiàn)排序。
保存數(shù)據(jù)
for url1 in urls: for page in range(0,10): url2 = f'https://www.hexuexiao.cn/a/{url1}-{page}.html' # print(url2) res1 = requests.get(url2) # print(res1.text) url3 = re.findall('<img src=(.*?)/></a>',res1.text,re.S)[0] print(url3) url3=re.sub('',"",url3) print(url3)
我們這段代碼中的 urls
列表是一個(gè)字典,其中鍵是 URL,值是頁(yè)碼。在循環(huán)中,我們使用 range()
函數(shù)從 0 到 9 迭代頁(yè)碼。接下來(lái),我們使用 requests.get()
方法分別獲取每個(gè)頁(yè)面的 HTML 代碼,并使用正則表達(dá)式匹配出所有的圖片鏈接。最后,我們使用 requests.get()
方法獲取每個(gè)圖片鏈接的內(nèi)容,并將其寫入一個(gè)文件中。
保存圖片
content = requests.get(url3).content with open('圖片\' + str(num) + '.jpg', mode='wb') as f: f.write(content)
我們這段代碼中的 content
變量的值是從圖片鏈接 url3
中獲取的內(nèi)容。然后,使用 with open()
語(yǔ)句打開一個(gè)二進(jìn)制文件,并將 content
寫入文件中。在這個(gè)過(guò)程中,num
變量的值是當(dāng)前文件中的圖片序號(hào)。獲取圖片和我們之前獲取音頻一樣,都是保存成二進(jìn)制文件。
這樣,我們的圖片數(shù)據(jù)就保存下來(lái)了。這里,我就不展示效果了,原理都是一樣的,找到圖片的地址,我們就可以獲取下來(lái)。
總結(jié):
python采集圖片是一項(xiàng)非常重要的任務(wù),它可以幫助我們從海量的信息中提取有用的信息和知識(shí)。在本文中,我們將介紹如何采集某個(gè)網(wǎng)站的圖片,并從中獲取有用的信息和知識(shí)。首先,我們需要明確自己的目的和需求,選擇適合自己的采集方式和策略。其次,我們需要學(xué)會(huì)使用各種工具和方法,包括搜索引擎、瀏覽器插件、圖片處理工具等,來(lái)獲取圖片。在處理圖片時(shí),我們需要注意保證圖片的質(zhì)量和清晰度,避免出現(xiàn)模糊、失真等問(wèn)題。最后,我們需要總結(jié)經(jīng)驗(yàn)教訓(xùn),不斷改進(jìn)自己的采集方式和策略,提高采集效率和質(zhì)量。
到此這篇關(guān)于Python采集圖片數(shù)據(jù)的實(shí)現(xiàn)示例的文章就介紹到這了,更多相關(guān)Python采集圖片數(shù)據(jù)內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Python json轉(zhuǎn)字典字符方法實(shí)例解析
這篇文章主要介紹了Python json轉(zhuǎn)字典字符代碼實(shí)例解析,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-04-04Python腳本簡(jiǎn)單實(shí)現(xiàn)打開默認(rèn)瀏覽器登錄人人和打開QQ的方法
這篇文章主要介紹了Python腳本簡(jiǎn)單實(shí)現(xiàn)打開默認(rèn)瀏覽器登錄人人和打開QQ的方法,涉及Python針對(duì)瀏覽器及應(yīng)用程序的相關(guān)操作技巧,代碼非常簡(jiǎn)單實(shí)用,需要的朋友可以參考下2016-04-04修復(fù)Python?Pandas數(shù)據(jù)標(biāo)記錯(cuò)誤的幾種方法總結(jié)
用于分析數(shù)據(jù)的?Python?庫(kù)稱為?Pandas,在?Pandas?中讀取數(shù)據(jù)最常見的方式是通過(guò)?CSV?文件,但?CSV?文件的限制是它應(yīng)該采用特定的格式,否則在標(biāo)記數(shù)據(jù)時(shí)會(huì)拋出錯(cuò)誤,在本文中,我們將討論修復(fù)?Python?Pandas?錯(cuò)誤標(biāo)記數(shù)據(jù)的各種方法2023-10-10Python制作一個(gè)隨機(jī)抽獎(jiǎng)小工具的實(shí)現(xiàn)
最近在工作中面向社群玩家組織了一場(chǎng)活動(dòng),需要進(jìn)行隨機(jī)抽獎(jiǎng),就做了一個(gè)簡(jiǎn)單的隨機(jī)抽獎(jiǎng)小工具。具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2021-07-07python 多線程對(duì)post請(qǐng)求服務(wù)器測(cè)試并發(fā)的方法
今天小編就為大家分享一篇python 多線程對(duì)post請(qǐng)求服務(wù)器測(cè)試并發(fā)的方法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-06-06