欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

python制作花瓣網美女圖片爬蟲

 更新時間:2015年10月28日 09:20:04   投稿:hebedich  
本文通過python 來實現這樣一個簡單的爬蟲功能,把我們想要的圖片爬取到本地,需要的朋友可以參考下

花瓣圖片的加載使用了延遲加載的技術,源代碼只能下載20多張圖片,修改后基本能下載所有的了,只是速度有點慢,后面再優(yōu)化下

import urllib, urllib2, re, sys, os,requests
path=r"C:\wqa\beautify"
url = 'http://huaban.com/favorite/beauty'
#http://huaban.com/explore/zhongwenlogo/?ig1un9tq&max=327773629&limit=20&wfl=1
i_headers = {"User-Agent": "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/46.0.2490.71 Safari/537.36"}
count=0

def urlHandle(url):
  req = urllib2.Request(url, headers=i_headers)
  html = urllib2.urlopen(req).read()
  reg = re.compile(r'"pin_id":(\d+),.+?"file":{"farm":"farm1", "bucket":"hbimg",.+?"key":"(.*?)",.+?"type":"image/(.*?)"', re.S)
  groups = re.findall(reg, html)
  return groups

def imgHandle(groups):
  if groups:
    for att in groups:  
      pin_id = att[0]
      att_url = att[1] + '_fw236'
      img_type = att[2]
      img_url = 'http://img.hb.aicdn.com/' + att_url

      r = requests.get(img_url)
      with open(path + att_url + '.' + img_type, 'wb') as fd:
        for chunk in r.iter_content():
          fd.write(chunk)

groups = urlHandle(url)
imgHandle(groups)

while(groups):
  count+=1
  print count
  pin_id = groups[-1][0]
  print pin_id
  urltemp = url+'/?max=' + str(pin_id) + '&limit=' + str(20) + '&wfl=1'
  print(urltemp)
  groups = urlHandle(urltemp)
  #print groups
  imgHandle(groups)

相關文章

  • pycharm 在windows上編輯代碼用linux執(zhí)行配置的方法

    pycharm 在windows上編輯代碼用linux執(zhí)行配置的方法

    今天小編就為大家分享一篇pycharm 在windows上編輯代碼用linux執(zhí)行配置的方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2018-10-10
  • tensorflow圖像裁剪進行數據增強操作

    tensorflow圖像裁剪進行數據增強操作

    這篇文章主要介紹了tensorflow圖像裁剪進行數據增強操作,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2020-06-06
  • python沒有gpu,如何改用cpu跑代碼

    python沒有gpu,如何改用cpu跑代碼

    這篇文章主要介紹了python沒有gpu,如何改用cpu跑代碼?今天小編就為大家分享一下解決方案。如有錯誤或未考慮完全的地方,望不吝賜教
    2022-05-05
  • 使用Python更換外網IP的方法

    使用Python更換外網IP的方法

    這篇文章主要介紹了使用Python更換外網IP的方法,,小編覺得挺不錯的,現在分享給大家,也給大家做個參考。一起跟隨小編過來看看吧
    2018-07-07
  • 淺談Scrapy網絡爬蟲框架的工作原理和數據采集

    淺談Scrapy網絡爬蟲框架的工作原理和數據采集

    在python爬蟲中:requests + selenium 可以解決目前90%的爬蟲需求,難道scrapy 是解決剩下的10%的嗎?顯然不是。scrapy框架是為了讓我們的爬蟲更強大、更高效。接下來我們一起學習一下它吧。
    2019-02-02
  • python 采用paramiko 遠程執(zhí)行命令及報錯解決

    python 采用paramiko 遠程執(zhí)行命令及報錯解決

    這篇文章主要介紹了python 采用paramiko 遠程執(zhí)行命令及報錯解決,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下
    2019-10-10
  • python實現計算器簡易版

    python實現計算器簡易版

    這篇文章主要為大家詳細介紹了python實現計算器簡易版,文中示例代碼介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們可以參考一下
    2020-12-12
  • Python 實現取多維數組第n維的前幾位

    Python 實現取多維數組第n維的前幾位

    今天小編就為大家分享一篇Python 實現取多維數組第n維的前幾位,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2019-11-11
  • Python基礎學習之函數方法實例詳解

    Python基礎學習之函數方法實例詳解

    這篇文章主要介紹了Python基礎學習之函數方法,結合實例形式分析了Python函數方法的定義、參數、復用和繼承相關操作技巧,需要的朋友可以參考下
    2019-06-06
  • 如何通過Python收集MySQL MHA 部署及運行狀態(tài)信息的功能

    如何通過Python收集MySQL MHA 部署及運行狀態(tài)信息的功能

    本篇幅主要介紹如何通過Python實現收集MHA 集群 節(jié)點信息 和 運行狀態(tài)的功能。這些信息將是CMDB信息的重要組成部分,感興趣的朋友一起看看吧
    2021-10-10

最新評論