python實現(xiàn)中文分詞FMM算法實例
本文實例講述了python實現(xiàn)中文分詞FMM算法。分享給大家供大家參考。具體分析如下:
FMM算法的最簡單思想是使用貪心算法向前找n個,如果這n個組成的詞在詞典中出現(xiàn),就ok,如果沒有出現(xiàn),那么找n-1個...然后繼續(xù)下去。假如n個詞在詞典中出現(xiàn),那么從n+1位置繼續(xù)找下去,直到句子結(jié)束。
import re def PreProcess(sentence,edcode="utf-8"): sentence = sentence.decode(edcode) sentence=re.sub(u"[。,,!……!《》<>\"'::?\?、\|“”‘';]"," ",sentence) return sentence def FMM(sentence,diction,result = [],maxwordLength = 4,edcode="utf-8"): i = 0 sentence = PreProcess(sentence,edcode) length = len(sentence) while i < length: # find the ascii word tempi=i tok=sentence[i:i+1] while re.search("[0-9A-Za-z\-\+#@_\.]{1}",tok)<>None: i= i+1 tok=sentence[i:i+1] if i-tempi>0: result.append(sentence[tempi:i].lower().encode(edcode)) # find chinese word left = len(sentence[i:]) if left == 1: """go to 4 step over the FMM""" """should we add the last one? Yes, if not blank""" if sentence[i:] <> " ": result.append(sentence[i:].encode(edcode)) return result m = min(left,maxwordLength) for j in xrange(m,0,-1): leftword = sentence[i:j+i].encode(edcode) # print leftword.decode(edcode) if LookUp(leftword,diction): # find the left word in dictionary # it's the right one i = j+i result.append(leftword) break elif j == 1: """only one word, add into result, if not blank""" if leftword.decode(edcode) <> " ": result.append(leftword) i = i+1 else: continue return result def LookUp(word,dictionary): if dictionary.has_key(word): return True return False def ConvertGBKtoUTF(sentence): return sentence.decode('gbk').encode('utf-8') dictions = {} dictions["ab"] = 1 dictions["cd"] = 2 dictions["abc"] = 1 dictions["ss"] = 1 dictions[ConvertGBKtoUTF("好的")] = 1 dictions[ConvertGBKtoUTF("真的")] = 1 sentence = "asdfa好的是這樣嗎vasdiw呀真的daf dasfiw asid是嗎?" s = FMM(ConvertGBKtoUTF(sentence),dictions) for i in s: print i.decode("utf-8") test = open("test.txt","r") for line in test: s = FMM(CovertGBKtoUTF(line),dictions) for i in s: print i.decode("utf-8")
運(yùn)行結(jié)果如下:
asdfa
好的
是
這
樣
嗎
vasdiw
呀
真的
daf
dasfiw
asid
是
嗎
?
希望本文所述對大家的Python程序設(shè)計有所幫助。
- Python中文分詞實現(xiàn)方法(安裝pymmseg)
- Python結(jié)巴中文分詞工具使用過程中遇到的問題及解決方法
- Python中文分詞工具之結(jié)巴分詞用法實例總結(jié)【經(jīng)典案例】
- python中文分詞教程之前向最大正向匹配算法詳解
- python中文分詞,使用結(jié)巴分詞對python進(jìn)行分詞(實例講解)
- python使用jieba實現(xiàn)中文分詞去停用詞方法示例
- python中文分詞庫jieba使用方法詳解
- Python中文分詞庫jieba,pkusegwg性能準(zhǔn)確度比較
- Python3爬蟲中關(guān)于中文分詞的詳解
- Python jieba 中文分詞與詞頻統(tǒng)計的操作
- Python中文分詞庫jieba(結(jié)巴分詞)詳細(xì)使用介紹
相關(guān)文章
python處理文本文件實現(xiàn)生成指定格式文件的方法
這篇文章主要介紹了python處理文本文件實現(xiàn)生成指定格式文件的方法,有一定的實用價值,需要的朋友可以參考下2014-07-07Python實現(xiàn)為Excel中每個單元格計算其在文件中的平均值
這篇文章主要為大家詳細(xì)介紹了如何基于Python語言實現(xiàn)對大量不同的Excel文件加以跨文件、逐單元格平均值計算,感興趣的小伙伴可以跟隨小編一起學(xué)習(xí)一下2023-10-10詳解一種用django_cache實現(xiàn)分布式鎖的方式
這篇文章主要介紹了詳解一種用django_cache實現(xiàn)分布式鎖的方式,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2019-09-09基于OpenMV的圖像識別之?dāng)?shù)字識別功能
OpenMV是一個開源,低成本,功能強(qiáng)大的機(jī)器視覺模塊。以STM32F427CPU為核心,集成了OV7725攝像頭芯片,在小巧的硬件模塊上,用C語言高效地實現(xiàn)了核心機(jī)器視覺算法,提供Python編程接口,對OpenMV的圖像識別之?dāng)?shù)字識別相關(guān)知識感興趣的朋友一起看看吧2021-11-11