Python?jieba分詞添加自定義詞和去除不需要長尾詞的操作方法
Python jieba分詞如何添加自定義詞和去除不需要長尾詞
通過如下代碼,讀取一個txt的高頻詞匯:
# 找到高頻詞匯 tmp_content = self.getContent(tmp_path) keyword_list = tmp_content.split('\n') word_count = dict() for keyword in keyword_list: for word,flag in jp.cut(keyword): if word in word_count: word_count[word] = word_count[word] +1 else: word_count[word] =1 for word, count in word_count.items(): print('%s\t%s' % (word,count))
很多情況下 jieba它不知道一些詞匯,比如說獲得的詞匯如下
建立
和 可視化
是2個獨立的單詞
一、添加自定義詞
通過添加自定義詞
import jieba import jieba.posseg as jp jieba.load_userdict(r'jieba_dict.txt')
就可以看到,統(tǒng)計出來的詞是這個自定義詞
二、去除不需要長尾詞
有時 統(tǒng)計出來的某些詞匯jieba
認為是一個詞匯 但是此時 我想讓他變?yōu)槎鄠€詞匯 ,可以通過如下代碼實現(xiàn):
import jieba import jieba.posseg as jp jieba.del_word('創(chuàng)建活動')
此時 jieba 就會不認定 創(chuàng)建活動
是一個詞,它會將它們分開統(tǒng)計
總結
- 本文主要介紹jieba的基礎用法。
到此這篇關于Python jieba分詞如何添加自定義詞和去除不需要長尾詞的文章就介紹到這了,更多相關Python jieba分詞內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!
相關文章
使用tensorflow實現(xiàn)VGG網(wǎng)絡,訓練mnist數(shù)據(jù)集方式
這篇文章主要介紹了使用tensorflow實現(xiàn)VGG網(wǎng)絡,訓練mnist數(shù)據(jù)集方式,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-05-05python SMTP實現(xiàn)發(fā)送帶附件電子郵件
這篇文章主要為大家詳細介紹了python SMTP實現(xiàn)發(fā)送帶附件電子郵件,具有一定的參考價值,感興趣的小伙伴們可以參考一下2018-05-05python進階教程之循環(huán)相關函數(shù)range、enumerate、zip
這篇文章主要介紹了python進階教程之循環(huán)相關函數(shù)range、enumerate、zip,在使用循環(huán)程序經(jīng)常要配合這些函數(shù)來完成循環(huán),需要的朋友可以參考下2014-08-08