Python實現(xiàn)抓取HTML網(wǎng)頁并以PDF文件形式保存的方法
本文實例講述了Python實現(xiàn)抓取HTML網(wǎng)頁并以PDF文件形式保存的方法。分享給大家供大家參考,具體如下:
一、前言
今天介紹將HTML網(wǎng)頁抓取下來,然后以PDF保存,廢話不多說直接進(jìn)入教程。
今天的例子以廖雪峰老師的Python教程網(wǎng)站為例:http://www.liaoxuefeng.com/wiki/0014316089557264a6b348958f449949df42a6d3a2e542c000
二、準(zhǔn)備工作
1. PyPDF2的安裝使用(用來合并PDF):
PyPDF2版本:1.25.1
https://pypi.python.org/pypi/PyPDF2/1.25.1
或
https://github.com/mstamy2/PyPDF2
安裝:
pip install PyPDF2
使用示例:
from PyPDF2 import PdfFileMerger merger = PdfFileMerger() input1 = open("hql_1_20.pdf", "rb") input2 = open("hql_21_40.pdf", "rb") merger.append(input1) merger.append(input2) # Write to an output PDF document output = open("hql_all.pdf", "wb") merger.write(output)
2. requests、beautifulsoup 是爬蟲兩大神器,reuqests 用于網(wǎng)絡(luò)請求,beautifusoup 用于操作 html 數(shù)據(jù)。有了這兩把梭子,干起活來利索。scrapy 這樣的爬蟲框架我們就不用了,這樣的小程序派上它有點(diǎn)殺雞用牛刀的意思。此外,既然是把 html 文件轉(zhuǎn)為 pdf,那么也要有相應(yīng)的庫支持, wkhtmltopdf 就是一個非常的工具,它可以用適用于多平臺的 html 到 pdf 的轉(zhuǎn)換,pdfkit 是 wkhtmltopdf 的Python封裝包。首先安裝好下面的依賴包
pip install requests pip install beautifulsoup4 pip install pdfkit
3. 安裝 wkhtmltopdf
Windows平臺直接在 http://wkhtmltopdf.org/downloads.html 下載穩(wěn)定版的 wkhtmltopdf 進(jìn)行安裝,安裝完成之后把該程序的執(zhí)行路徑加入到系統(tǒng)環(huán)境 $PATH 變量中,否則 pdfkit 找不到 wkhtmltopdf 就出現(xiàn)錯誤 “No wkhtmltopdf executable found”。Ubuntu 和 CentOS 可以直接用命令行進(jìn)行安裝
$ sudo apt-get install wkhtmltopdf # ubuntu $ sudo yum intsall wkhtmltopdf # centos
三、數(shù)據(jù)準(zhǔn)備
1. 獲取每篇文章的url
def get_url_list(): """ 獲取所有URL目錄列表 :return: """ response = requests.get("http://www.liaoxuefeng.com/wiki/0014316089557264a6b348958f449949df42a6d3a2e542c000") soup = BeautifulSoup(response.content, "html.parser") menu_tag = soup.find_all(class_="uk-nav uk-nav-side")[1] urls = [] for li in menu_tag.find_all("li"): url = "http://www.liaoxuefeng.com" + li.a.get('href') urls.append(url) return urls
2. 通過文章url用模板保存每篇文章的HTML文件
html模板:
html_template = """ <!DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8"> </head> <body> {content} </body> </html> """
進(jìn)行保存:
def parse_url_to_html(url, name): """ 解析URL,返回HTML內(nèi)容 :param url:解析的url :param name: 保存的html文件名 :return: html """ try: response = requests.get(url) soup = BeautifulSoup(response.content, 'html.parser') # 正文 body = soup.find_all(class_="x-wiki-content")[0] # 標(biāo)題 title = soup.find('h4').get_text() # 標(biāo)題加入到正文的最前面,居中顯示 center_tag = soup.new_tag("center") title_tag = soup.new_tag('h1') title_tag.string = title center_tag.insert(1, title_tag) body.insert(1, center_tag) html = str(body) # body中的img標(biāo)簽的src相對路徑的改成絕對路徑 pattern = "(<img .*?src=\")(.*?)(\")" def func(m): if not m.group(3).startswith("http"): rtn = m.group(1) + "http://www.liaoxuefeng.com" + m.group(2) + m.group(3) return rtn else: return m.group(1)+m.group(2)+m.group(3) html = re.compile(pattern).sub(func, html) html = html_template.format(content=html) html = html.encode("utf-8") with open(name, 'wb') as f: f.write(html) return name except Exception as e: logging.error("解析錯誤", exc_info=True)
3. 把html轉(zhuǎn)換成pdf
def save_pdf(htmls, file_name): """ 把所有html文件保存到pdf文件 :param htmls: html文件列表 :param file_name: pdf文件名 :return: """ options = { 'page-size': 'Letter', 'margin-top': '0.75in', 'margin-right': '0.75in', 'margin-bottom': '0.75in', 'margin-left': '0.75in', 'encoding': "UTF-8", 'custom-header': [ ('Accept-Encoding', 'gzip') ], 'cookie': [ ('cookie-name1', 'cookie-value1'), ('cookie-name2', 'cookie-value2'), ], 'outline-depth': 10, } pdfkit.from_file(htmls, file_name, options=options)
4. 把轉(zhuǎn)換好的單個PDF合并為一個PDF
merger = PdfFileMerger() for pdf in pdfs: merger.append(open(pdf,'rb')) print u"合并完成第"+str(i)+'個pdf'+pdf
完整源碼:
# coding=utf-8 import os import re import time import logging import pdfkit import requests from bs4 import BeautifulSoup from PyPDF2 import PdfFileMerger html_template = """ <!DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8"> </head> <body> {content} </body> </html> """ def parse_url_to_html(url, name): """ 解析URL,返回HTML內(nèi)容 :param url:解析的url :param name: 保存的html文件名 :return: html """ try: response = requests.get(url) soup = BeautifulSoup(response.content, 'html.parser') # 正文 body = soup.find_all(class_="x-wiki-content")[0] # 標(biāo)題 title = soup.find('h4').get_text() # 標(biāo)題加入到正文的最前面,居中顯示 center_tag = soup.new_tag("center") title_tag = soup.new_tag('h1') title_tag.string = title center_tag.insert(1, title_tag) body.insert(1, center_tag) html = str(body) # body中的img標(biāo)簽的src相對路徑的改成絕對路徑 pattern = "(<img .*?src=\")(.*?)(\")" def func(m): if not m.group(3).startswith("http"): rtn = m.group(1) + "http://www.liaoxuefeng.com" + m.group(2) + m.group(3) return rtn else: return m.group(1)+m.group(2)+m.group(3) html = re.compile(pattern).sub(func, html) html = html_template.format(content=html) html = html.encode("utf-8") with open(name, 'wb') as f: f.write(html) return name except Exception as e: logging.error("解析錯誤", exc_info=True) def get_url_list(): """ 獲取所有URL目錄列表 :return: """ response = requests.get("http://www.liaoxuefeng.com/wiki/0014316089557264a6b348958f449949df42a6d3a2e542c000") soup = BeautifulSoup(response.content, "html.parser") menu_tag = soup.find_all(class_="uk-nav uk-nav-side")[1] urls = [] for li in menu_tag.find_all("li"): url = "http://www.liaoxuefeng.com" + li.a.get('href') urls.append(url) return urls def save_pdf(htmls, file_name): """ 把所有html文件保存到pdf文件 :param htmls: html文件列表 :param file_name: pdf文件名 :return: """ options = { 'page-size': 'Letter', 'margin-top': '0.75in', 'margin-right': '0.75in', 'margin-bottom': '0.75in', 'margin-left': '0.75in', 'encoding': "UTF-8", 'custom-header': [ ('Accept-Encoding', 'gzip') ], 'cookie': [ ('cookie-name1', 'cookie-value1'), ('cookie-name2', 'cookie-value2'), ], 'outline-depth': 10, } pdfkit.from_file(htmls, file_name, options=options) def main(): start = time.time() file_name = u"liaoxuefeng_Python3_tutorial" urls = get_url_list() for index, url in enumerate(urls): parse_url_to_html(url, str(index) + ".html") htmls =[] pdfs =[] for i in range(0,124): htmls.append(str(i)+'.html') pdfs.append(file_name+str(i)+'.pdf') save_pdf(str(i)+'.html', file_name+str(i)+'.pdf') print u"轉(zhuǎn)換完成第"+str(i)+'個html' merger = PdfFileMerger() for pdf in pdfs: merger.append(open(pdf,'rb')) print u"合并完成第"+str(i)+'個pdf'+pdf output = open(u"廖雪峰Python_all.pdf", "wb") merger.write(output) print u"輸出PDF成功!" for html in htmls: os.remove(html) print u"刪除臨時文件"+html for pdf in pdfs: os.remove(pdf) print u"刪除臨時文件"+pdf total_time = time.time() - start print(u"總共耗時:%f 秒" % total_time) if __name__ == '__main__': main()
更多Python相關(guān)內(nèi)容感興趣的讀者可查看本站專題:《Python文件與目錄操作技巧匯總》、《Python編碼操作技巧總結(jié)》、《Python數(shù)據(jù)結(jié)構(gòu)與算法教程》、《Python函數(shù)使用技巧總結(jié)》、《Python字符串操作技巧匯總》及《Python入門與進(jìn)階經(jīng)典教程》
希望本文所述對大家Python程序設(shè)計有所幫助。
- python將html轉(zhuǎn)成PDF的實現(xiàn)代碼(包含中文)
- Python實現(xiàn)將HTML轉(zhuǎn)成PDF的方法分析
- python 將html轉(zhuǎn)換為pdf的幾種方法
- Python3轉(zhuǎn)換html到pdf的不同解決方案
- Python實現(xiàn)html轉(zhuǎn)換為pdf報告(生成pdf報告)功能示例
- python包pdfkit(wkhtmltopdf)?將HTML轉(zhuǎn)換為PDF的操作方法
- Python實現(xiàn)批量將word轉(zhuǎn)html并將html內(nèi)容發(fā)布至網(wǎng)站的方法
- python如何實現(xiàn)word批量轉(zhuǎn)HTML
- 如何利用Python將html轉(zhuǎn)為pdf、word文件
相關(guān)文章
python將xml xsl文件生成html文件存儲示例講解
這篇文章主要介紹了python將xml、xsl文件轉(zhuǎn)成html文件存儲方法,大家參考使用吧2013-12-12python處理xls文件openpyxl基礎(chǔ)操作
這篇文章主要為大家介紹了python處理xls文件openpyxl基礎(chǔ)操作,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2023-08-08Python3實現(xiàn)簡單可學(xué)習(xí)的手寫體識別(實例講解)
下面小編就為大家?guī)硪黄狿ython3實現(xiàn)簡單可學(xué)習(xí)的手寫體識別(實例講解)。小編覺得挺不錯的,現(xiàn)在就分享給大家,也給大家做個參考。一起跟隨小編過來看看吧2017-10-10解析numpy中的iscomplex方法及實際應(yīng)用
NumPy 的 iscomplex 方法為檢查數(shù)組中的元素是否為復(fù)數(shù)提供了一種高效且易于使用的接口,本文介紹了 iscomplex 方法的基本概念、使用方法以及它在解決實際問題中的應(yīng)用,需要的朋友可以參考下2024-06-06python免殺技術(shù)shellcode的加載與執(zhí)行
本文主要介紹了python免殺技術(shù)shellcode的加載與執(zhí)行,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2023-04-04