欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

python實(shí)現(xiàn)爬蟲數(shù)據(jù)存到 MongoDB

 更新時(shí)間:2016年09月22日 09:53:03   作者:千里追風(fēng)  
本文給大家分享的是使用python實(shí)現(xiàn)將爬蟲爬到的數(shù)據(jù)存儲(chǔ)到mongoDB數(shù)據(jù)庫(kù)中的實(shí)例代碼,有需要的小伙伴可以參考下

在以上兩篇文章中已經(jīng)介紹到了 Python 爬蟲和 MongoDB , 那么下面我就將爬蟲爬下來(lái)的數(shù)據(jù)存到 MongoDB 中去,首先來(lái)介紹一下我們將要爬取的網(wǎng)站, readfree 網(wǎng)站,這個(gè)網(wǎng)站非常的好,我們只需要每天簽到就可以免費(fèi)下載三本書,良心網(wǎng)站,下面我就將該網(wǎng)站上的每日推薦書籍爬下來(lái)。

利用上面幾篇文章介紹的方法,我們很容易的就可以在網(wǎng)頁(yè)的源代碼中尋找到書籍的姓名和書籍作者的信息。

找到之后我們復(fù)制 XPath ,然后進(jìn)行提取即可。源代碼如下所示

# coding=utf-8

import re
import requests
from lxml import etree
import pymongo
import sys

reload(sys)
sys.setdefaultencoding('utf-8')

def getpages(url, total):
  nowpage = int(re.search('(\d+)', url, re.S).group(1))
  urls = []

  for i in range(nowpage, total + 1):
    link = re.sub('(\d+)', '%s' % i, url, re.S)
    urls.append(link)

  return urls

def spider(url):
  html = requests.get(url)

  selector = etree.HTML(html.text)

  book_name = selector.xpath('//*[@id="container"]/ul/li//div/div[2]/a/text()')
  book_author = selector.xpath('//*[@id="container"]/ul/li//div/div[2]/div/a/text()')

  saveinfo(book_name, book_author)

def saveinfo(book_name, book_author):
  connection = pymongo.MongoClient()
  BookDB = connection.BookDB
  BookTable = BookDB.books

  length = len(book_name)

  for i in range(0, length):
    books = {}
    books['name'] = str(book_name[i]).replace('\n','')
    books['author'] = str(book_author[i]).replace('\n','')
    BookTable.insert_one(books)

if __name__ == '__main__':
  url = 'http://readfree.me/shuffle/?page=1'
  urls = getpages(url,3)

  for each in urls:
    spider(each)

注意,在寫入數(shù)據(jù)庫(kù)的過(guò)程中不要一下子將字典中的數(shù)據(jù)寫入數(shù)據(jù)庫(kù),我一開始就這么寫的,但是我發(fā)現(xiàn)數(shù)據(jù)庫(kù)中只有三條信息,其他信息都不見了。所以采用一條一條的寫入。

還有源代碼的開頭部分,對(duì)默認(rèn)編碼的設(shè)置一定不可以省略,否則可能會(huì)報(bào)編碼錯(cuò)誤(真心感覺 Python 在編碼這方面好容易出錯(cuò),尷尬)。

有的人可能發(fā)現(xiàn)了,我將提取的信息轉(zhuǎn)換成了字符串,然后使用 replace() 方法將 \n 去掉了,因?yàn)槲野l(fā)現(xiàn)在提取的書籍信息前后存在換行符,看著十分礙眼。

熱情提醒一下,在程序運(yùn)行的時(shí)候別忘記將你的 Mongo DB 運(yùn)行起來(lái),下來(lái)看看結(jié)果

好了,就這樣,如果發(fā)現(xiàn)代碼哪里存在錯(cuò)誤或者說(shuō)有可以改善的地方,希望留言給我,感謝。

相關(guān)文章

  • 詳解MongoDB中的日志模塊

    詳解MongoDB中的日志模塊

    這篇文章主要介紹了MongoDB中的日志模塊的相關(guān)資料,幫助大家更好的理解和學(xué)習(xí)使用MongoDB數(shù)據(jù)庫(kù),感興趣的朋友可以了解下
    2021-04-04
  • MongoDB查詢技巧總結(jié)

    MongoDB查詢技巧總結(jié)

    這篇文章主要介紹了MongoDB查詢技巧總結(jié),例如AND、OR條件查詢,子文檔查詢等,需要的朋友可以參考下
    2014-05-05
  • MongoDB中javascript腳本編程簡(jiǎn)介和入門實(shí)例

    MongoDB中javascript腳本編程簡(jiǎn)介和入門實(shí)例

    作為一個(gè)數(shù)據(jù)庫(kù),MongoDB有一個(gè)很大的優(yōu)勢(shì)——它使用js管理數(shù)據(jù)庫(kù),所以也能夠使用js腳本進(jìn)行復(fù)雜的管理——這種方法非常靈活
    2014-04-04
  • 阿里云CentOS7安裝Mongodb教程

    阿里云CentOS7安裝Mongodb教程

    本文給大家介紹的教程主要參考資源的官方文檔,當(dāng)然如果你是centos6的,也可以看看其他文章,筆者用的是7,mongodb想用3以上的版本,需要的小伙伴可以參考下
    2016-11-11
  • 大數(shù)據(jù)環(huán)境下mongoDB為何要加索引淺析

    大數(shù)據(jù)環(huán)境下mongoDB為何要加索引淺析

    這篇文章主要給大家介紹了關(guān)于大數(shù)據(jù)環(huán)境下mongoDB為何要加索引的相關(guān)資料,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家學(xué)習(xí)或者使用mongoDB具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
    2019-05-05
  • MongoDB數(shù)據(jù)去重與保存最新數(shù)據(jù)操作指南

    MongoDB數(shù)據(jù)去重與保存最新數(shù)據(jù)操作指南

    在 MongoDB 數(shù)據(jù)庫(kù)中,我們經(jīng)常需要進(jìn)行數(shù)據(jù)去重并保留最新的數(shù)據(jù),本文將介紹如何使用 MongoDB 聚合操作完成這一任務(wù),并將結(jié)果保存到新的集合或者覆蓋原有的集合,感興趣的小伙伴跟著小編一起來(lái)看看吧
    2024-01-01
  • mongodb中oplog介紹和格式詳析

    mongodb中oplog介紹和格式詳析

    Oplog 是用于存儲(chǔ) MongoDB 數(shù)據(jù)庫(kù)所有數(shù)據(jù)的操作記錄的(實(shí)際只記錄增刪改和一些系統(tǒng)命令操作,查是不會(huì)記錄的),有點(diǎn)類似于 mysql 的 binlog 日志,這篇文章主要給大家介紹了關(guān)于mongodb中oplog和格式的相關(guān)資料,需要的朋友可以參考下
    2021-07-07
  • 如何為MongoDB添加分片副本集

    如何為MongoDB添加分片副本集

    這篇文章主要介紹了如何為MongoDB添加分片副本集,幫助大家更好的理解和學(xué)習(xí)使用MongoDB數(shù)據(jù)庫(kù),感興趣的朋友可以了解下
    2021-03-03
  • 教大家8天學(xué)通MongoDB——第一天 基礎(chǔ)入門篇

    教大家8天學(xué)通MongoDB——第一天 基礎(chǔ)入門篇

    MongoDB是目前非常流行的一種非關(guān)系型數(shù)據(jù)庫(kù)(NoSQL),因其操作簡(jiǎn)單、完全免費(fèi)、源碼公開等特點(diǎn),受到了IT從業(yè)人員的青睞,并被廣泛部署于實(shí)際的生產(chǎn)環(huán)境中。本文教大家8天學(xué)通MongoDB——第一天 基礎(chǔ)入門篇,感興趣的朋友一起來(lái)了解了解吧
    2015-09-09
  • MongoDB快速入門筆記(三)之MongoDB插入文檔操作

    MongoDB快速入門筆記(三)之MongoDB插入文檔操作

    這篇文章主要介紹了MongoDB快速入門筆記(三)之MongoDB插入文檔操作 的相關(guān)資料,非常不錯(cuò)具有參考借鑒價(jià)值,需要的朋友可以參考下
    2016-06-06

最新評(píng)論