Python+OCR實(shí)現(xiàn)文檔解析的示例代碼
介紹
文檔解析涉及檢查文檔中的數(shù)據(jù)并提取有用的信息。它可以通過(guò)自動(dòng)化減少了大量的手工工作。一種流行的解析策略是將文檔轉(zhuǎn)換為圖像并使用計(jì)算機(jī)視覺進(jìn)行識(shí)別。而文檔圖像分析(Document Image Analysis)是指從文檔的圖像的像素?cái)?shù)據(jù)中獲取信息的技術(shù)，在某些情況下，預(yù)期結(jié)果應(yīng)該是什么樣的沒(méi)有明確的答案(文本、圖像、圖表、數(shù)字、表格、公式……)。
OCR (Optical Character Recognition，光學(xué)字符識(shí)別)是通過(guò)計(jì)算機(jī)視覺對(duì)圖像中的文本進(jìn)行檢測(cè)和提取的過(guò)程。它是在第一次世界大戰(zhàn)期間發(fā)明的，當(dāng)時(shí)以色列科學(xué)家伊曼紐爾·戈德堡(Emanuel Goldberg)發(fā)明了一臺(tái)能讀取字符并將其轉(zhuǎn)換為電報(bào)代碼的機(jī)器。到了現(xiàn)在該領(lǐng)域已經(jīng)達(dá)到了一個(gè)非常復(fù)雜的水平，混合圖像處理、文本定位、字符分割和字符識(shí)別?；旧鲜且环N針對(duì)文本的對(duì)象檢測(cè)技術(shù)。
在本文中我將展示如何使用OCR進(jìn)行文檔解析。我將展示一些有用的Python代碼，這些代碼可以很容易地用于其他類似的情況(只需復(fù)制、粘貼、運(yùn)行)，并提供完整的源代碼下載。
這里將以一家上市公司的PDF格式的財(cái)務(wù)報(bào)表為例(鏈接如下)。
https://s2.q4cdn.com/470004039/files/doc_financials/2021/q4/_10-K-2021-(As-Filed).pdf
檢測(cè)和提取該P(yáng)DF中的 文本、圖形和表格
環(huán)境設(shè)置
文檔解析令人煩惱的部分是，有太多的工具用于不同類型的數(shù)據(jù)(文本、圖形、表格)，但沒(méi)有一個(gè)能夠完美地工作。下面是一些最流行方法和軟件包:
- 以文本方式處理文檔:用PyPDF2提取文本，用Camelot或TabulaPy提取表，用PyMuPDF提取圖形。
- 將文檔轉(zhuǎn)換為圖像(OCR):使用pdf2image進(jìn)行轉(zhuǎn)換，使用PyTesseract以及許多其他的庫(kù)提取數(shù)據(jù)，或者只使用LayoutParser。
也許你會(huì)問(wèn):“為什么不直接處理PDF文件，而要把頁(yè)面轉(zhuǎn)換成圖像呢?”你可以這么做。這種策略的主要缺點(diǎn)是編碼問(wèn)題:文檔可以采用多種編碼(即UTF-8、ASCII、Unicode)，因此轉(zhuǎn)換為文本可能會(huì)導(dǎo)致數(shù)據(jù)丟失。因此為了避免產(chǎn)生該問(wèn)題，我將使用OCR，并用pdf2image將頁(yè)面轉(zhuǎn)換為圖像，需要注意的是PDF渲染庫(kù)Poppler是必需的。
# with pip pip install python-poppler # with conda conda install -c conda-forge poppler
你可以很容易地讀取文件:
# READ AS IMAGE
import pdf2imagedoc = pdf2image.convert_from_path("doc_apple.pdf")
len(doc) #<-- check num pages
doc[0] #<-- visualize a page跟我們的截圖一模一樣，如果想將頁(yè)面圖像保存在本地，可以使用以下代碼:
# Save imgs import osfolder = "doc" if folder not in os.listdir(): os.makedirs(folder)p = 1 for page in doc: image_name = "page_"+str(p)+".jpg" page.save(os.path.join(folder, image_name), "JPEG") p = p+1
最后，我們需要設(shè)置將要使用的CV引擎。LayoutParser似乎是第一個(gè)基于深度學(xué)習(xí)的OCR通用包。它使用了兩個(gè)著名的模型來(lái)完成任務(wù):
Detection: Facebook最先進(jìn)的目標(biāo)檢測(cè)庫(kù)(這里將使用第二個(gè)版本Detectron2)。
pip install layoutparser torchvision && pip install "git+https://github.com/facebookresearch/detectron2.git@v0.5#egg=detectron2"
Tesseract：最著名的OCR系統(tǒng)，由惠普公司在1985年創(chuàng)建，目前由谷歌開發(fā)。
pip install "layoutparser[ocr]"
現(xiàn)在已經(jīng)準(zhǔn)備好開始OCR程序進(jìn)行信息檢測(cè)和提取了。
import layoutparser as lp import cv2 import numpy as np import io import pandas as pd import matplotlib.pyplot as plt
檢測(cè)
(目標(biāo))檢測(cè)是在圖片中找到信息片段，然后用矩形邊框?qū)⑵浒鼑倪^(guò)程。對(duì)于文檔解析，這些信息是標(biāo)題、文本、圖形、表……
讓我們來(lái)看一個(gè)復(fù)雜的頁(yè)面，它包含了一些東西:
這個(gè)頁(yè)面以一個(gè)標(biāo)題開始，有一個(gè)文本塊，然后是一個(gè)圖和一個(gè)表，因此我們需要一個(gè)經(jīng)過(guò)訓(xùn)練的模型來(lái)識(shí)別這些對(duì)象。幸運(yùn)的是，Detectron能夠完成這項(xiàng)任務(wù)，我們只需從這里選擇一個(gè)模型，并在代碼中指定它的路徑。
我將要使用的模型只能檢測(cè)4個(gè)對(duì)象(文本、標(biāo)題、列表、表格、圖形)。因此，如果你需要識(shí)別其他東西(如方程)，你就必須使用其他模型。
## load pre-trained model
model = lp.Detectron2LayoutModel(
"lp://PubLayNet/mask_rcnn_X_101_32x8d_FPN_3x/config",
extra_config=["MODEL.ROI_HEADS.SCORE_THRESH_TEST", 0.8],
label_map={0:"Text", 1:"Title", 2:"List", 3:"Table", 4:"Figure"})
## turn img into array
i = 21
img = np.asarray(doc[i])
## predict
detected = model.detect(img)
## plot
lp.draw_box(img, detected, box_width=5, box_alpha=0.2,
show_element_type=True)
結(jié)果包含每個(gè)檢測(cè)到的布局的細(xì)節(jié)，例如邊界框的坐標(biāo)。根據(jù)頁(yè)面上顯示的順序?qū)敵鲞M(jìn)行排序是很有用的：
## sort
new_detected = detected.sort(key=lambda x: x.coordinates[1])
## assign ids
detected = lp.Layout([block.set(id=idx) for idx,block in
enumerate(new_detected)])## check
for block in detected:
print("---", str(block.id)+":", block.type, "---")
print(block, end='\n\n')
完成OCR的下一步是正確提取檢測(cè)到內(nèi)容中的有用信息。
提取
我們已經(jīng)對(duì)圖像完成了分割，然后就需要使用另外一個(gè)模型處理分段的圖像，并將提取的輸出保存到字典中。
由于有不同類型的輸出（文本，標(biāo)題，圖形，表格），所以這里準(zhǔn)備了一個(gè)函數(shù)用來(lái)顯示結(jié)果。
'''
{'0-Title': '...',
'1-Text': '...',
'2-Figure': array([[ [0,0,0], ...]]),
'3-Table': pd.DataFrame,
}
'''
def parse_doc(dic):
for k,v in dic.items():
if "Title" in k:
print('\x1b[1;31m'+ v +'\x1b[0m')
elif "Figure" in k:
plt.figure(figsize=(10,5))
plt.imshow(v)
plt.show()
else:
print(v)
print(" ")首先看看文字：
# load model
model = lp.TesseractAgent(languages='eng')
dic_predicted = {}
for block in [block for block in detected if block.type in ["Title","Text"]]:
## segmentation
segmented = block.pad(left=15, right=15, top=5,
bottom=5).crop_image(img)
## extraction
extracted = model.detect(segmented)
## save
dic_predicted[str(block.id)+"-"+block.type] =
extracted.replace('\n',' ').strip()
# check
parse_doc(dic_predicted)
再看看圖形報(bào)表
for block in [block for block in detected if block.type == "Figure"]:
## segmentation
segmented = block.pad(left=15, right=15, top=5,
bottom=5).crop_image(img)
## save
dic_predicted[str(block.id)+"-"+block.type] = segmented
# check
parse_doc(dic_predicted)
上面兩個(gè)看著很不錯(cuò)，那是因?yàn)檫@兩種類型相對(duì)簡(jiǎn)單，但是表格就要復(fù)雜得多。尤其是我們上看看到的的這個(gè)，因?yàn)樗男泻土卸际沁M(jìn)行了合并后產(chǎn)生的。
for block in [block for block in detected if block.type == "Table"]:
## segmentation
segmented = block.pad(left=15, right=15, top=5,
bottom=5).crop_image(img)
## extraction
extracted = model.detect(segmented)
## save
dic_predicted[str(block.id)+"-"+block.type] = pd.read_csv(
io.StringIO(extracted) )
# check
parse_doc(dic_predicted)
正如我們的預(yù)料提取的表格不是很好。好在Python有專門處理表格的包，我們可以直接處理而不將其轉(zhuǎn)換為圖像。這里使用TabulaPy 包：
import tabula
tables = tabula.read_pdf("doc_apple.pdf", pages=i+1)
tables[0]
結(jié)果要好一些，但是名稱仍然錯(cuò)了，但是效果要比直接OCR好的多。
以上就是Python+OCR實(shí)現(xiàn)文檔解析的示例代碼的詳細(xì)內(nèi)容，更多關(guān)于Python OCR文檔解析的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章！
相關(guān)文章
Django框架教程之正則表達(dá)式URL誤區(qū)詳解
正則表達(dá)式對(duì)大家來(lái)說(shuō)應(yīng)該都不陌生，下面這篇文章主要給大家介紹了關(guān)于Django框架教程之正則表達(dá)式URL誤區(qū)的相關(guān)資料，文中通過(guò)示例代碼介紹的非常詳細(xì)，需要的朋友可以參考借鑒，下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧。2018-01-01
python使用win32com庫(kù)播放mp3文件的方法
這篇文章主要介紹了python使用win32com庫(kù)播放mp3文件的方法,涉及Python使用win32com庫(kù)操作音頻文件的相關(guān)技巧,需要的朋友可以參考下2015-05-05
pytest實(shí)現(xiàn)多種調(diào)用方式
pytest是一個(gè)非常成熟的全功能的Python測(cè)試框架,本文主要介紹了pytest多種調(diào)用方式,具有一定的參考價(jià)值,感興趣的可以了解一下2023-12-12
網(wǎng)上的Python教程大都是2.X版本的，python2.X和python3.X相比較改動(dòng)比較大，好多庫(kù)的用法不太一樣，我安裝的是python3.X，我們來(lái)看看詳細(xì)的例子2017-02-02
python基于機(jī)器學(xué)習(xí)預(yù)測(cè)股票交易信號(hào)
近年來(lái)，隨著技術(shù)的發(fā)展，機(jī)器學(xué)習(xí)和深度學(xué)習(xí)在金融資產(chǎn)量化研究上的應(yīng)用越來(lái)越廣泛和深入。目前，大量數(shù)據(jù)科學(xué)家在Kaggle網(wǎng)站上發(fā)布了使用機(jī)器學(xué)習(xí)/深度學(xué)習(xí)模型對(duì)股票、期貨、比特幣等金融資產(chǎn)做預(yù)測(cè)和分析的文章。本文就來(lái)看看如何用python預(yù)測(cè)股票交易信號(hào)2021-05-05
這篇文章主要介紹了使用Selenium自動(dòng)化爬取b站主播頭像并以昵稱命名保存到本地的方法，代碼簡(jiǎn)單完整,對(duì)于大家練習(xí)Selenium自動(dòng)化有一定的幫助,需要的朋友可以參考下2021-04-04
這篇文章主要介紹了numpy的squeeze函數(shù)使用方法，文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2021-03-03
這篇文章主要介紹了Python 取numpy數(shù)組的某幾行某幾列方法，文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2019-10-10
Object arrays cannot be loaded when
這篇文章主要介紹了Object arrays cannot be loaded when allow_pickle=False,本文給大家分享問(wèn)題解決思路，需要的朋友可以參考下2022-11-11
Python Opencv中基礎(chǔ)的知識(shí)點(diǎn)
這篇文章主要介紹了Python Opencv中基礎(chǔ)的知識(shí)點(diǎn),主要包括創(chuàng)建窗口、保存圖片、采集視頻、鼠標(biāo)控制的代碼，代碼簡(jiǎn)單易懂，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值，需要的朋友可以參考下2022-07-07