0x00 識別涉及技術

驗證碼識別涉及很多方面的內(nèi)容。入手難度大,但是入手后,可拓展性又非常廣泛,可玩性極強,成就感也很足。

驗證碼圖像處理

驗證碼圖像識別技術主要是操作圖片內(nèi)的像素點,通過對圖片的像素點進行一系列的操作,最后輸出驗證碼圖像內(nèi)的每個字符的文本矩陣。

讀取圖片
圖片降噪
圖片切割
圖像文本輸出

驗證字符識別

驗證碼內(nèi)的字符識別主要以機器學習的分類算法來完成,目前我所利用的字符識別的算法為KNN(K鄰近算法)和SVM (支持向量機算法),后面我 會對這兩個算法的適用場景進行詳細描述。

獲取字符矩陣
矩陣進入分類算法
輸出結果

涉及的Python庫

這次研究主要使用了以下這三個庫

numpy(數(shù)學處理庫)
Image(圖像處理庫)
ImageEnhance(圖像處理庫)

驗證碼識別技術難點

驗證碼識別由兩部分組成,分別是驗證碼圖片處理和驗證碼字符學習。

在編碼過程中,我認為難度最大的部分是識別算法的學習和使用。
在寫文檔的時候,我認為難度最大的部分是圖像處理部分,圖像處理部分需要對抗各種干擾因素,對抗不同類型的驗證碼需要不同的算法支持,因此圖像處理程序需要對各種驗證碼具體問題具體分析,不能抱有大而全的思想,務必注重細節(jié)處理。

0x01 學習與識別

驗證碼識別的過程分為學習過程與識別過程

學習

識別

上圖代碼運用的是SVM的識別過程

0x02 圖像處理

驗證碼圖像處理腦圖

如上圖所示,驗證碼圖像處理模塊是一個結構規(guī)整、內(nèi)部分支復雜的模塊,整個驗證碼識別準確率全靠這個模塊,可謂是整個驗證碼識別的根本。如 上文所說,圖像處理模塊玩的是圖片內(nèi)的每一個像素百度百科:像素,因此這個模塊好上手。

上面這兩句便可以打開一個圖像對象,im對象內(nèi)置許多方法有興趣可以查看Image庫源碼或者參考Python Imaging Library Handbook 圖片增加對比度、銳化、調(diào)整亮度、二值化,這四塊是比較規(guī)整的模塊,處理調(diào)用庫函數(shù)即可。下面主要說說圖片降噪和清楚單像素干擾線。

圖片清除噪點

圖片降噪的原理是利用9宮格內(nèi)信息點(信息像素,一般經(jīng)過預處理的信息像素為黑色)。

上圖黑色部分為(x,y),單像素噪點處理時分別驗證周圍的八個點是否為白色,如果為白色即可判斷(x,y)為噪點。同理雙像素噪點需要考慮兩個像 素的排列是橫向還是縱向或者是斜向,之后判斷其周圍10個像素是否均為白色像素即可。同理三像素噪點也是這樣,我嘗試的情況三像素噪點不包括 橫向排列和縱向排列。

圖片清除干擾線

對于單像素的干擾線目前可以解決,但是大寬度干擾線則會產(chǎn)生判斷上的誤差,目前不好解決。

上圖的干擾線為單像素,因此通過算法即可解決。

干擾線處理后的圖片如上圖所示。

圖片切割

對于去噪后的圖片,我們需要對圖片進行切割,切割的目的是為了提取信息,方便把圖片中的數(shù)字轉(zhuǎn)化為01形式的文本。 我所采用的切割方式是投影法.

如上圖所示,對于切割數(shù)字3,首先需要找到垂線A和B,判斷步驟是:縱向從左向右掃描圖片,找到第一條含有信息點的直線記為A,繼續(xù)向右掃描, 當從A開始,找到第一條無信息點的直線記為B,從投影的角度來看,A與B之間X軸上的投影的信息值均大于0,切割A與B之間的圖像后,以新圖像為 基礎,找出C與D,至此便可切割出數(shù)字3。

圖片切割目前可以僅可對非粘連字符進行切割,對于粘連字符,我的程序并沒能很好的處理。

信息輸出

當獲取了切割好的圖片,由于圖片只有黑色與白色,因此遍歷每一個像素點,根據(jù)像素點的顏色來進行0,1輸出,一般認為黑色像素輸出1,白色像素 輸出0。

0x03 識別算法概述

字符識別算法整體流程很好理解,舉個例子,字符像素文本A進入識別算法,通過對算法的結果進行判斷,便可以完成識別過程。我實踐了兩種識別算 法,第一種是KNN算法,第二種是SVM算法,下面我將以個人的角度來闡述下這兩種算法的原理以及適用場景,個人水平有限,算法細節(jié)可以參考我 之后給出的鏈接。

KNN(K鄰近算法)

KNN算法是一種簡單的算法,KNN算法基本思想是把數(shù)據(jù)轉(zhuǎn)化為點,通過計算兩點之間的距離來進行判斷。 在n維度下,兩點間距離可以表示為 S = math.sqrt((x1-y1)^2+(x2-y2)^2+.+(xn-yn)^2)。

SVM(支持向量機)

SVM算法相比較KNN算法來說,原理上要復雜復雜的多,SVM算法基本思想是把數(shù)據(jù)轉(zhuǎn)化為點,通過把點映射到n維空間上,通過n-1維的超平面 切割,找到最佳切割超平面,通過判斷點在超平面的哪一邊,來判斷點屬于哪一類字符。

但是SVM算法的特點只能在兩類中間比較,因此把字符識別運用到該算法上,還需要在比較過程中加以一個遍歷算法,遍歷算法可以減少大量無效計 算,遍歷的場景是一個有向無環(huán)圖。

算法細節(jié)文檔鏈接

jerrylead 的blog : Machine Learning
支持向量機通俗導論(理解SVM的三層境界)

0x04 識別算法適用場景

KNN與SVM的適用場景存在一定區(qū)別。

KNN算法在運行過程上來說,并不存在學習過程,只是遍歷已知分類進行距離上的判斷,根據(jù)待測數(shù)據(jù)與已知分類進行比較,找出與待測距離最近的n個數(shù)據(jù)來進行匹配,因此當已分類的樣本越來越多,KNN算法的運算時間會越來越長。

SVM算法在運行過程中,是存在學習的過程的,通過對已知分類標簽進行兩兩組合,找出每個組合的切割方程。待測數(shù)據(jù)只需要一個一個計算切割方程,根據(jù)切割方程的返回值來判斷下一個執(zhí)行的是哪個方程即可。0-9數(shù)字的判斷,只需要執(zhí)行9次方程計算即可。SVM多類分類方法

因此如果大規(guī)模識別驗證碼,我建議適用SVM作為識別算法。

0x05 實踐細節(jié)注意事項

這部分內(nèi)容是我所遇到的問題。

規(guī)則化圖像

當切割的驗證碼以數(shù)字呈現(xiàn)在文本里,他們的像素是各不相同的,需要把這些標準化,我選擇標準化在27*30像素是一個經(jīng)驗值。此外,還需要把新圖 像放置在標準化像素的正中央。

使用SVM構建超平面方程

SVM算法的重點是尋找切割方程,首先需要把待判斷的兩種元素存入到dataArr和labelArr中,通smoP方程尋找b和alphas。

利用方程組預測——遍歷dag圖

由于svm是二分類器,只能判斷是或者不是,只需要使用k一1個決策函數(shù)即可得出結果,不存在誤分、拒分區(qū)域;另外,由于其特殊的結構,故有一定的容錯性,分類精度較一般的二叉樹方法高。

對于0123456789 共10個字符 共有45種非重復組合。利用dag只需判斷9次即可找出目標。

0x06 實踐總結

運用機器學習算法時,如果不理解實現(xiàn)原理,先直接套接口,總之先實現(xiàn)功能,不必強求對算法的徹底理解。 2. 識別算法是通用的。

處理不同驗證碼,應該有不同的處理策略。

測試發(fā)現(xiàn),主要耗時發(fā)生在構建方程過程中,構建方程耗時105s,識別1s。

圖像去噪時對于大寬度的干擾線沒有好的解決辦法(干擾線寬度大于3像素)。 6. 圖像切割在面臨圖像粘連時,目前無很好的處理方法。

最新評論