用Python編寫簡單的微博爬蟲

更新時間：2016年03月04日 14:29:06 作者：語亮

這篇文章主要介紹了如何利用Python編寫一個簡單的微博爬蟲，感興趣的小伙伴們可以參考一下

先說點題外話，我一開始想使用Sina Weibo API來獲取微博內(nèi)容，但后來發(fā)現(xiàn)新浪微博的API限制實在太多，大家感受一下：

只能獲取當前授權(quán)的用戶（就是自己），而且只能返回最新的5條，WTF！
所以果斷放棄掉這條路，改為『生爬』，因為PC端的微博是Ajax的動態(tài)加載，爬取起來有些困難，我果斷知難而退，改為對移動端的微博進行爬取，因為移動端的微博可以通過分頁爬取的方式來一次性爬取所有微博內(nèi)容，這樣工作就簡化了不少。

最后實現(xiàn)的功能：

1、輸入要爬取的微博用戶的user_id，獲得該用戶的所有微博
2、文字內(nèi)容保存到以%user_id命名文本文件中，所有高清原圖保存在weibo_image文件夾中
具體操作：
首先我們要獲得自己的cookie，這里只說chrome的獲取方法。

1、用chrome打開新浪微博移動端
2、option+command+i調(diào)出開發(fā)者工具
3、點開Network，將Preserve log選項選中
4、輸入賬號密碼，登錄新浪微博

5、找到m.weibo.cn->Headers->Cookie，把cookie復制到代碼中的#your cookie處

然后再獲取你想爬取的用戶的user_id，這個我不用多說啥了吧，點開用戶主頁，地址欄里面那個號碼就是user_id

將python代碼保存到weibo_spider.py文件中
定位到當前目錄下后，命令行執(zhí)行python weibo_spider.py user_id
當然如果你忘記在后面加user_id，執(zhí)行的時候命令行也會提示你輸入

最后執(zhí)行結(jié)束

小問題：在我的測試中，有的時候會出現(xiàn)圖片下載失敗的問題，具體原因還不是很清楚，可能是網(wǎng)速問題，因為我宿舍的網(wǎng)速實在太不穩(wěn)定了，當然也有可能是別的問題，所以在程序根目錄下面，我還生成了一個userid_imageurls的文本文件，里面存儲了爬取的所有圖片的下載鏈接，如果出現(xiàn)大片的圖片下載失敗，可以將該鏈接群一股腦導進迅雷等下載工具進行下載。

另外，我的系統(tǒng)是OSX EI Capitan10.11.2，Python的版本是2.7，依賴庫用sudo pip install XXXX就可以安裝，具體配置問題可以自行stackoverflow，這里就不展開講了。

下面我就給出實現(xiàn)代碼

#-*-coding:utf8-*-

import re
import string
import sys
import os
import urllib
import urllib2
from bs4 import BeautifulSoup
import requests
from lxml import etree

reload(sys) 
sys.setdefaultencoding('utf-8')
if(len(sys.argv)>=2):
  user_id = (int)(sys.argv[1])
else:
  user_id = (int)(raw_input(u"請輸入user_id: "))

cookie = {"Cookie": "#your cookie"}
url = 'http://weibo.cn/u/%d?filter=1&page=1'%user_id

html = requests.get(url, cookies = cookie).content
selector = etree.HTML(html)
pageNum = (int)(selector.xpath('//input[@name="mp"]')[0].attrib['value'])

result = "" 
urllist_set = set()
word_count = 1
image_count = 1

print u'爬蟲準備就緒...'

for page in range(1,pageNum+1):

 #獲取lxml頁面
 url = 'http://weibo.cn/u/%d?filter=1&page=%d'%(user_id,page) 
 lxml = requests.get(url, cookies = cookie).content

 #文字爬取
 selector = etree.HTML(lxml)
 content = selector.xpath('//span[@class="ctt"]')
 for each in content:
  text = each.xpath('string(.)')
  if word_count>=4:
   text = "%d :"%(word_count-3) +text+"\n\n"
  else :
   text = text+"\n\n"
  result = result + text
  word_count += 1

 #圖片爬取
 soup = BeautifulSoup(lxml, "lxml")
 urllist = soup.find_all('a',href=re.compile(r'^http://weibo.cn/mblog/oripic',re.I))
 first = 0
 for imgurl in urllist:
  urllist_set.add(requests.get(imgurl['href'], cookies = cookie).url)
  image_count +=1

fo = open("/Users/Personals/%s"%user_id, "wb")
fo.write(result)
word_path=os.getcwd()+'/%d'%user_id
print u'文字微博爬取完畢'

link = ""
fo2 = open("/Users/Personals/%s_imageurls"%user_id, "wb")
for eachlink in urllist_set:
 link = link + eachlink +"\n"
fo2.write(link)
print u'圖片鏈接爬取完畢'


if not urllist_set:
 print u'該頁面中不存在圖片'
else:
 #下載圖片,保存在當前目錄的pythonimg文件夾下
 image_path=os.getcwd()+'/weibo_image'
 if os.path.exists(image_path) is False:
  os.mkdir(image_path)
 x=1
 for imgurl in urllist_set:
  temp= image_path + '/%s.jpg' % x
  print u'正在下載第%s張圖片' % x
  try:
   urllib.urlretrieve(urllib2.urlopen(imgurl).geturl(),temp)
  except:
   print u"該圖片下載失敗:%s"%imgurl
  x+=1

print u'原創(chuàng)微博爬取完畢，共%d條，保存路徑%s'%(word_count-4,word_path)
print u'微博圖片爬取完畢，共%d張，保存路徑%s'%(image_count-1,image_path)

一個簡單的微博爬蟲就完成了，希望對大家的學習有所幫助。

您可能感興趣的文章: