欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

Python實現(xiàn)抓取HTML網(wǎng)頁并以PDF文件形式保存的方法

 更新時間:2018年05月08日 10:37:11   作者:Limerence  
這篇文章主要介紹了Python實現(xiàn)抓取HTML網(wǎng)頁并以PDF文件形式保存的方法,結(jié)合實例形式分析了PyPDF2模塊的安裝及Python抓取HTML頁面并基于PyPDF2模塊生成pdf文件的相關(guān)操作技巧,需要的朋友可以參考下

本文實例講述了Python實現(xiàn)抓取HTML網(wǎng)頁并以PDF文件形式保存的方法。分享給大家供大家參考,具體如下:

一、前言

今天介紹將HTML網(wǎng)頁抓取下來,然后以PDF保存,廢話不多說直接進(jìn)入教程。

今天的例子以廖雪峰老師的Python教程網(wǎng)站為例:http://www.liaoxuefeng.com/wiki/0014316089557264a6b348958f449949df42a6d3a2e542c000

二、準(zhǔn)備工作

1. PyPDF2的安裝使用(用來合并PDF):

PyPDF2版本:1.25.1

https://pypi.python.org/pypi/PyPDF2/1.25.1

https://github.com/mstamy2/PyPDF2

安裝:

pip install PyPDF2

使用示例:

from PyPDF2 import PdfFileMerger
merger = PdfFileMerger()
input1 = open("hql_1_20.pdf", "rb")
input2 = open("hql_21_40.pdf", "rb")
merger.append(input1)
merger.append(input2)
# Write to an output PDF document
output = open("hql_all.pdf", "wb")
merger.write(output)

2. requests、beautifulsoup 是爬蟲兩大神器,reuqests 用于網(wǎng)絡(luò)請求,beautifusoup 用于操作 html 數(shù)據(jù)。有了這兩把梭子,干起活來利索。scrapy 這樣的爬蟲框架我們就不用了,這樣的小程序派上它有點(diǎn)殺雞用牛刀的意思。此外,既然是把 html 文件轉(zhuǎn)為 pdf,那么也要有相應(yīng)的庫支持, wkhtmltopdf 就是一個非常的工具,它可以用適用于多平臺的 html 到 pdf 的轉(zhuǎn)換,pdfkit 是 wkhtmltopdf 的Python封裝包。首先安裝好下面的依賴包

pip install requests
pip install beautifulsoup4
pip install pdfkit

3. 安裝 wkhtmltopdf

Windows平臺直接在 http://wkhtmltopdf.org/downloads.html 下載穩(wěn)定版的 wkhtmltopdf 進(jìn)行安裝,安裝完成之后把該程序的執(zhí)行路徑加入到系統(tǒng)環(huán)境 $PATH 變量中,否則 pdfkit 找不到 wkhtmltopdf 就出現(xiàn)錯誤 “No wkhtmltopdf executable found”。Ubuntu 和 CentOS 可以直接用命令行進(jìn)行安裝

$ sudo apt-get install wkhtmltopdf # ubuntu
$ sudo yum intsall wkhtmltopdf   # centos

三、數(shù)據(jù)準(zhǔn)備

1. 獲取每篇文章的url

def get_url_list():
  """
  獲取所有URL目錄列表
  :return:
  """
  response = requests.get("http://www.liaoxuefeng.com/wiki/0014316089557264a6b348958f449949df42a6d3a2e542c000")
  soup = BeautifulSoup(response.content, "html.parser")
  menu_tag = soup.find_all(class_="uk-nav uk-nav-side")[1]
  urls = []
  for li in menu_tag.find_all("li"):
    url = "http://www.liaoxuefeng.com" + li.a.get('href')
    urls.append(url)
  return urls

2. 通過文章url用模板保存每篇文章的HTML文件

html模板:

html_template = """
<!DOCTYPE html>
<html lang="en">
<head>
  <meta charset="UTF-8">
</head>
<body>
{content}
</body>
</html>
"""

進(jìn)行保存:

def parse_url_to_html(url, name):
  """
  解析URL,返回HTML內(nèi)容
  :param url:解析的url
  :param name: 保存的html文件名
  :return: html
  """
  try:
    response = requests.get(url)
    soup = BeautifulSoup(response.content, 'html.parser')
    # 正文
    body = soup.find_all(class_="x-wiki-content")[0]
    # 標(biāo)題
    title = soup.find('h4').get_text()
    # 標(biāo)題加入到正文的最前面,居中顯示
    center_tag = soup.new_tag("center")
    title_tag = soup.new_tag('h1')
    title_tag.string = title
    center_tag.insert(1, title_tag)
    body.insert(1, center_tag)
    html = str(body)
    # body中的img標(biāo)簽的src相對路徑的改成絕對路徑
    pattern = "(<img .*?src=\")(.*?)(\")"
    def func(m):
      if not m.group(3).startswith("http"):
        rtn = m.group(1) + "http://www.liaoxuefeng.com" + m.group(2) + m.group(3)
        return rtn
      else:
        return m.group(1)+m.group(2)+m.group(3)
    html = re.compile(pattern).sub(func, html)
    html = html_template.format(content=html)
    html = html.encode("utf-8")
    with open(name, 'wb') as f:
      f.write(html)
    return name
  except Exception as e:
    logging.error("解析錯誤", exc_info=True)

3. 把html轉(zhuǎn)換成pdf

def save_pdf(htmls, file_name):
  """
  把所有html文件保存到pdf文件
  :param htmls: html文件列表
  :param file_name: pdf文件名
  :return:
  """
  options = {
    'page-size': 'Letter',
    'margin-top': '0.75in',
    'margin-right': '0.75in',
    'margin-bottom': '0.75in',
    'margin-left': '0.75in',
    'encoding': "UTF-8",
    'custom-header': [
      ('Accept-Encoding', 'gzip')
    ],
    'cookie': [
      ('cookie-name1', 'cookie-value1'),
      ('cookie-name2', 'cookie-value2'),
    ],
    'outline-depth': 10,
  }
  pdfkit.from_file(htmls, file_name, options=options)

4. 把轉(zhuǎn)換好的單個PDF合并為一個PDF

merger = PdfFileMerger()
for pdf in pdfs:
  merger.append(open(pdf,'rb'))
  print u"合并完成第"+str(i)+'個pdf'+pdf

完整源碼:

# coding=utf-8
import os
import re
import time
import logging
import pdfkit
import requests
from bs4 import BeautifulSoup
from PyPDF2 import PdfFileMerger
html_template = """
<!DOCTYPE html>
<html lang="en">
<head>
  <meta charset="UTF-8">
</head>
<body>
{content}
</body>
</html>
"""
def parse_url_to_html(url, name):
  """
  解析URL,返回HTML內(nèi)容
  :param url:解析的url
  :param name: 保存的html文件名
  :return: html
  """
  try:
    response = requests.get(url)
    soup = BeautifulSoup(response.content, 'html.parser')
    # 正文
    body = soup.find_all(class_="x-wiki-content")[0]
    # 標(biāo)題
    title = soup.find('h4').get_text()
    # 標(biāo)題加入到正文的最前面,居中顯示
    center_tag = soup.new_tag("center")
    title_tag = soup.new_tag('h1')
    title_tag.string = title
    center_tag.insert(1, title_tag)
    body.insert(1, center_tag)
    html = str(body)
    # body中的img標(biāo)簽的src相對路徑的改成絕對路徑
    pattern = "(<img .*?src=\")(.*?)(\")"
    def func(m):
      if not m.group(3).startswith("http"):
        rtn = m.group(1) + "http://www.liaoxuefeng.com" + m.group(2) + m.group(3)
        return rtn
      else:
        return m.group(1)+m.group(2)+m.group(3)
    html = re.compile(pattern).sub(func, html)
    html = html_template.format(content=html)
    html = html.encode("utf-8")
    with open(name, 'wb') as f:
      f.write(html)
    return name
  except Exception as e:
    logging.error("解析錯誤", exc_info=True)
def get_url_list():
  """
  獲取所有URL目錄列表
  :return:
  """
  response = requests.get("http://www.liaoxuefeng.com/wiki/0014316089557264a6b348958f449949df42a6d3a2e542c000")
  soup = BeautifulSoup(response.content, "html.parser")
  menu_tag = soup.find_all(class_="uk-nav uk-nav-side")[1]
  urls = []
  for li in menu_tag.find_all("li"):
    url = "http://www.liaoxuefeng.com" + li.a.get('href')
    urls.append(url)
  return urls
def save_pdf(htmls, file_name):
  """
  把所有html文件保存到pdf文件
  :param htmls: html文件列表
  :param file_name: pdf文件名
  :return:
  """
  options = {
    'page-size': 'Letter',
    'margin-top': '0.75in',
    'margin-right': '0.75in',
    'margin-bottom': '0.75in',
    'margin-left': '0.75in',
    'encoding': "UTF-8",
    'custom-header': [
      ('Accept-Encoding', 'gzip')
    ],
    'cookie': [
      ('cookie-name1', 'cookie-value1'),
      ('cookie-name2', 'cookie-value2'),
    ],
    'outline-depth': 10,
  }
  pdfkit.from_file(htmls, file_name, options=options)
def main():
  start = time.time()
  file_name = u"liaoxuefeng_Python3_tutorial"
  urls = get_url_list()
  for index, url in enumerate(urls):
   parse_url_to_html(url, str(index) + ".html")
  htmls =[]
  pdfs =[]
  for i in range(0,124):
    htmls.append(str(i)+'.html')
    pdfs.append(file_name+str(i)+'.pdf')
    save_pdf(str(i)+'.html', file_name+str(i)+'.pdf')
    print u"轉(zhuǎn)換完成第"+str(i)+'個html'
  merger = PdfFileMerger()
  for pdf in pdfs:
    merger.append(open(pdf,'rb'))
    print u"合并完成第"+str(i)+'個pdf'+pdf
  output = open(u"廖雪峰Python_all.pdf", "wb")
  merger.write(output)
  print u"輸出PDF成功!"
  for html in htmls:
    os.remove(html)
    print u"刪除臨時文件"+html
  for pdf in pdfs:
    os.remove(pdf)
    print u"刪除臨時文件"+pdf
  total_time = time.time() - start
  print(u"總共耗時:%f 秒" % total_time)
if __name__ == '__main__':
  main()

更多Python相關(guān)內(nèi)容感興趣的讀者可查看本站專題:《Python文件與目錄操作技巧匯總》、《Python編碼操作技巧總結(jié)》、《Python數(shù)據(jù)結(jié)構(gòu)與算法教程》、《Python函數(shù)使用技巧總結(jié)》、《Python字符串操作技巧匯總》及《Python入門與進(jìn)階經(jīng)典教程

希望本文所述對大家Python程序設(shè)計有所幫助。

相關(guān)文章

  • python將xml xsl文件生成html文件存儲示例講解

    python將xml xsl文件生成html文件存儲示例講解

    這篇文章主要介紹了python將xml、xsl文件轉(zhuǎn)成html文件存儲方法,大家參考使用吧
    2013-12-12
  • python處理xls文件openpyxl基礎(chǔ)操作

    python處理xls文件openpyxl基礎(chǔ)操作

    這篇文章主要為大家介紹了python處理xls文件openpyxl基礎(chǔ)操作,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪
    2023-08-08
  • 跟老齊學(xué)Python之編寫類之二方法

    跟老齊學(xué)Python之編寫類之二方法

    上一講中創(chuàng)建了類,并且重點(diǎn)講述了構(gòu)造函數(shù)以及類實例,特別是對那個self,描述了不少。在講述構(gòu)造函數(shù)的時候特別提到,init()是一個函數(shù),只不過在類中有一點(diǎn)特殊的作用罷了,每個類,首先要運(yùn)行它,它規(guī)定了類的基本結(jié)構(gòu)。
    2014-10-10
  • Python3實現(xiàn)簡單可學(xué)習(xí)的手寫體識別(實例講解)

    Python3實現(xiàn)簡單可學(xué)習(xí)的手寫體識別(實例講解)

    下面小編就為大家?guī)硪黄狿ython3實現(xiàn)簡單可學(xué)習(xí)的手寫體識別(實例講解)。小編覺得挺不錯的,現(xiàn)在就分享給大家,也給大家做個參考。一起跟隨小編過來看看吧
    2017-10-10
  • Python打印酷炫日志的方法詳解

    Python打印酷炫日志的方法詳解

    在Python中,日志是一種非常重要的工具,可以幫助我們更好地了解程序的運(yùn)行情況,本文將介紹如何使用logging模塊來打印炫酷的日志,需要的可以參考一下
    2023-06-06
  • python opencv讀mp4視頻的實例

    python opencv讀mp4視頻的實例

    今天小編就為大家分享一篇python opencv讀mp4視頻的實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2018-12-12
  • OpenCV半小時掌握基本操作之邊界填充

    OpenCV半小時掌握基本操作之邊界填充

    這篇文章主要介紹了OpenCV基本操作之邊界填充,本文給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下
    2021-09-09
  • 置信橢圓原理以及橢圓圖形繪制方式

    置信橢圓原理以及橢圓圖形繪制方式

    這篇文章主要介紹了置信橢圓原理以及橢圓圖形繪制方式,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教
    2023-02-02
  • 解析numpy中的iscomplex方法及實際應(yīng)用

    解析numpy中的iscomplex方法及實際應(yīng)用

    NumPy 的 iscomplex 方法為檢查數(shù)組中的元素是否為復(fù)數(shù)提供了一種高效且易于使用的接口,本文介紹了 iscomplex 方法的基本概念、使用方法以及它在解決實際問題中的應(yīng)用,需要的朋友可以參考下
    2024-06-06
  • python免殺技術(shù)shellcode的加載與執(zhí)行

    python免殺技術(shù)shellcode的加載與執(zhí)行

    本文主要介紹了python免殺技術(shù)shellcode的加載與執(zhí)行,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2023-04-04

最新評論