關(guān)于Word2Vec可視化展示
Word2Vec簡(jiǎn)介
自然語(yǔ)言處理的核心概念之一是如何量化單詞和表達(dá)式,以便能夠在模型環(huán)境中使用它們。語(yǔ)言元素到數(shù)值表示的這種映射稱(chēng)為詞嵌入。
Word2Vec是一個(gè)詞嵌入過(guò)程。這個(gè)概念相對(duì)簡(jiǎn)單:通過(guò)一個(gè)句子一個(gè)句子地在語(yǔ)料庫(kù)中循環(huán)去擬合一個(gè)模型,根據(jù)預(yù)先定義的窗口中的相鄰單詞預(yù)測(cè)當(dāng)前單詞。
為此,它使用了一個(gè)神經(jīng)網(wǎng)絡(luò),但實(shí)際上最后我們并不使用預(yù)測(cè)的結(jié)果。一旦模型被保存,我們只保存隱藏層的權(quán)重。在我們將要使用的原始模型中,有300個(gè)權(quán)重,因此每個(gè)單詞都由一個(gè)300維向量表示。
請(qǐng)注意,兩個(gè)單詞不必彼此接近的地方才被認(rèn)為是相似的。如果兩個(gè)詞從來(lái)沒(méi)有出現(xiàn)在同一個(gè)句子中,但它們通常被相同的包圍,那么可以肯定它們有相似的意思。
Word2Vec中有兩種建模方法:skip-gram和continuous bag of words,這兩種方法都有各自的優(yōu)點(diǎn)和對(duì)某些超參數(shù)的敏感性。
當(dāng)然,你得到的詞向量取決于你訓(xùn)練模型的語(yǔ)料庫(kù)。一般來(lái)說(shuō),你確實(shí)需要一個(gè)龐大的語(yǔ)料庫(kù),有維基百科上訓(xùn)練過(guò)的版本,或者來(lái)自不同來(lái)源的新聞文章。我們將要使用的結(jié)果是在Google新聞上訓(xùn)練出來(lái)的。
簡(jiǎn)單可視化
自定義一個(gè)很小的語(yǔ)料庫(kù),嘗試給出Word2Vec的簡(jiǎn)單可視化:
import gensim %matplotlib inline from gensim.models import Word2Vec from sklearn.decomposition import PCA from matplotlib import pyplot # 訓(xùn)練的語(yǔ)料 sentences = [['this', 'is', 'the', 'an', 'apple', 'for', 'you'], ['this', 'is', 'the', 'an', 'orange', 'for', 'you'], ['this', 'is', 'the', 'an', 'banana', 'for', 'you'], ['apple','is','delicious'], ['apple','is','sad'], ['orange','is','delicious'], ['orange','is','sad'], ['apple','tests','delicious'], ['orange','tests','delicious']] # 利用語(yǔ)料訓(xùn)練模型 model = Word2Vec(sentences,window=5, min_count=1) # 基于2d PCA擬合數(shù)據(jù) # X = model[model.wv.vocab] X = model.wv[model.wv.key_to_index] pca = PCA(n_components=2) result = pca.fit_transform(X) # 可視化展示 pyplot.scatter(result[:, 0], result[:, 1]) words = list(model.wv.key_to_index) for i, word in enumerate(words): pyplot.annotate(word, xy=(result[i, 0], result[i, 1])) pyplot.show()
因?yàn)檎Z(yǔ)料庫(kù)是隨機(jī)給出的,并且數(shù)量很少,所以訓(xùn)練出來(lái)的詞向量展示出來(lái)的詞和詞之間的相關(guān)性不那么強(qiáng)。這里主要是想表明假如我們輸入一系列單詞,通過(guò)Word2Vec模型可以得到什么樣的輸出。
實(shí)戰(zhàn)演練
通過(guò)已經(jīng)在Google新聞的語(yǔ)料上訓(xùn)練好的模型來(lái)看看Word2Vec得到的詞向量都可以怎么使用。
首先需要下載預(yù)訓(xùn)練Word2Vec向量,這可以從各種各樣的背景領(lǐng)域中進(jìn)行選擇。基于Google新聞?wù)Z料庫(kù)的訓(xùn)練模型可通過(guò)搜索“Google News vectors negative 300”來(lái)下載。這個(gè)文件大小是1.53GB,包含了30億單詞的300維表示。
和上述在Python中的簡(jiǎn)單可視化一樣,需要使用gensim庫(kù)。假設(shè)剛才下載好的文件保存在電腦的E盤(pán)的“wordpretrain”文件夾中。
from gensim.models.keyedvectors import KeyedVectors word_vectors = KeyedVectors.load_word2vec_format(\ 'E:\wordpretrain/GoogleNews-vectors-negative300.bin.gz', \ binary = True, limit = 1000000)
如此,便擁有了一個(gè)現(xiàn)成的詞向量模型,亦即每個(gè)單詞都由一個(gè)300維的向量唯一表示。下面我們來(lái)看看關(guān)于它的一些簡(jiǎn)單用法。
1、可以實(shí)際查看任意單詞的向量表示:
word_vectors['dog']
但很難解釋這個(gè)向量的每一維代表什么意思。
2、可以使用most_similar函數(shù)找到意思相近的單詞,topn參數(shù)定義要列出的單詞數(shù):
word_vectors.most_similar(positive = ['nice'], topn = 5)
括號(hào)中的數(shù)字表示相似度的大小。
3、如果我們想合并father和woman這兩個(gè)單詞的向量,并減去man這個(gè)單詞的向量,可以得到:
word_vectors.most_similar( positive = ['father', 'woman'], negative = ['man'], topn = 1)
其實(shí)這件事情很容易想到:假設(shè)在兩個(gè)維度(親子關(guān)系和性別)下,“woman”這個(gè)單詞的向量為(0,1),“man”的向量為(0,-1),“father”的向量為(1,-1),“mother”的向量為(1,1),那么“father”+“woman”-“man”= (1,-1) + (0,1) - (0,-1) = (1,1) =“mother”。當(dāng)然,區(qū)別在于這里我們有300個(gè)維度,但原理上是相同的。
4、可視化:
%matplotlib inline import pandas as pd import matplotlib.pyplot as plt import seaborn as sns from sklearn.decomposition import PCA import adjustText
from jupyterthemes import jtplot jtplot.style(theme='onedork') #選擇一個(gè)繪圖主題
def plot_2d_representation_of_words( word_list, word_vectors, flip_x_axis = False, flip_y_axis = False, label_x_axis = "x", label_y_axis = "y", label_label = "fruit"): pca = PCA(n_components = 2) word_plus_coordinates=[] for word in word_list: current_row = [] current_row.append(word) current_row.extend(word_vectors[word]) word_plus_coordinates.append(current_row) word_plus_coordinates = pd.DataFrame(word_plus_coordinates) coordinates_2d = pca.fit_transform( word_plus_coordinates.iloc[:,1:300]) coordinates_2d = pd.DataFrame( coordinates_2d, columns=[label_x_axis, label_y_axis]) coordinates_2d[label_label] = word_plus_coordinates.iloc[:,0] if flip_x_axis: coordinates_2d[label_x_axis] = \ coordinates_2d[label_x_axis] * (-1) if flip_y_axis: coordinates_2d[label_y_axis] = \ coordinates_2d[label_y_axis] * (-1) plt.figure(figsize = (15,10)) p1=sns.scatterplot( data=coordinates_2d, x=label_x_axis, y=label_y_axis) x = coordinates_2d[label_x_axis] y = coordinates_2d[label_y_axis] label = coordinates_2d[label_label] texts = [plt.text(x[i], y[i], label[i]) for i in range(len(x))] adjustText.adjust_text(texts)
fruits = ['apple','orange','banana','lemon','car','tram','boat','bicycle', 'cherry','mango','grape','durian','watermelon','train','motorbike','ship', 'peach','pear','pomegranate','strawberry','bike','bus','truck','subway','airplane']
plot_2d_representation_of_words( word_list = fruits, word_vectors = word_vectors, flip_y_axis = True)
這里我在水果類(lèi)的單詞列表中混入了少許交通工具類(lèi)的單詞。顯然,結(jié)果還算不錯(cuò),不僅能明顯看到單詞之間的相關(guān)性,還能自動(dòng)聚類(lèi)。
當(dāng)然,上述只是Word2Vec模型的簡(jiǎn)單操作和應(yīng)用,其既可以執(zhí)行詞語(yǔ)層面的任務(wù),也可以作為很多模型的輸入,包括但不限于:
· 計(jì)算相似度
- 尋找相似詞
- 信息檢索
· 作為SVM/LSTM等模型的輸入
- 中文分詞
- 命名體識(shí)別
· 句子表示
- 情感分析
· 文檔表示
- 文檔主題判別
總結(jié)
從上述Word2Vec實(shí)操和簡(jiǎn)單應(yīng)用來(lái)看,我們可以得出其詞向量訓(xùn)練的核心思想:若兩個(gè)單詞出現(xiàn)的語(yǔ)境相似,則它們的向量也相似。
以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
python如何獲取tensor()數(shù)據(jù)類(lèi)型中的值
這篇文章主要介紹了python如何獲取tensor()數(shù)據(jù)類(lèi)型中的值,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2022-07-07完美解決Django2.0中models下的ForeignKey()問(wèn)題
這篇文章主要介紹了完美解決Django2.0中models下的ForeignKey()問(wèn)題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-05-05Python如何存儲(chǔ)數(shù)據(jù)到j(luò)son文件
這篇文章主要介紹了Python如何存儲(chǔ)數(shù)據(jù)到j(luò)son文件,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-03-03關(guān)于python與opc ua Expert endpoint連接的問(wèn)題
這篇文章主要介紹了關(guān)于python與opc ua Expert endpoint連接的問(wèn)題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2024-02-02詳解Python 關(guān)聯(lián)規(guī)則分析
這篇文章主要介紹了Python 關(guān)聯(lián)規(guī)則分析的相關(guān)資料,幫助大家更好的理解和學(xué)習(xí)使用python,感興趣的朋友可以了解下2021-03-03python中的print()函數(shù)end=' '的使用及說(shuō)明
這篇文章主要介紹了python中的print()函數(shù)end=' '的使用及說(shuō)明,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2024-02-02對(duì)python中GUI,Label和Button的實(shí)例詳解
今天小編就為大家分享一篇對(duì)python中GUI,Label和Button的實(shí)例詳解,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-06-06