欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

如何用Python來(lái)搭建一個(gè)簡(jiǎn)單的推薦系統(tǒng)

 更新時(shí)間:2019年08月07日 14:11:55   作者:先薦  
這篇文章主要介紹了如何用Python來(lái)搭建一個(gè)簡(jiǎn)單的推薦系統(tǒng),文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下

在這篇文章中,我們會(huì)介紹如何用Python來(lái)搭建一個(gè)簡(jiǎn)單的推薦系統(tǒng)。

本文使用的數(shù)據(jù)集是MovieLens數(shù)據(jù)集,該數(shù)據(jù)集由明尼蘇達(dá)大學(xué)的Grouplens研究小組整理。它包含1,10和2億個(gè)評(píng)級(jí)。 Movielens還有一個(gè)網(wǎng)站,我們可以注冊(cè),撰寫(xiě)評(píng)論并獲得電影推薦。接下來(lái)我們就開(kāi)始實(shí)戰(zhàn)演練。

在這篇文章中,我們會(huì)使用Movielens構(gòu)建一個(gè)基于item的簡(jiǎn)易的推薦系統(tǒng)。在開(kāi)始前,第一件事就是導(dǎo)入pandas和numPy。

import pandas as pd import numpy as np import warnings warnings.filterwarnings('ignore')

接下來(lái),我們使用pandas read_csv()加載數(shù)據(jù)集。數(shù)據(jù)集由制表符分隔,所以我們將\ t傳遞給sep參數(shù)。然后,使用names參數(shù)傳入列名。

df = pd.read_csv('u.data', sep='\t', names=['user_id','item_id','rating','titmestamp'])

接下來(lái)查看表頭,檢查一下正在處理的數(shù)據(jù)。

df.head()

如果我們能夠看到電影的標(biāo)題而不僅僅是ID,那再好不過(guò)了。之后加載電影標(biāo)題并把它與此數(shù)據(jù)集合并。

movie_titles = pd.read_csv('Movie_Titles') movie_titles.head()

由于item_id列相同,我們可以在此列上合并這些數(shù)據(jù)集。

df = pd.merge(df, movie_titles, on='item_id') df.head()

數(shù)據(jù)集中的每一列分部代表:

  • user_id - 評(píng)級(jí)電影的用戶的ID。
  • item_id- 電影的ID。
  • rating - 用戶為電影提供的評(píng)級(jí),介于1和5之間。
  • timestamp - 電影評(píng)級(jí)的時(shí)間。
  • title - 電影標(biāo)題。

使用describe或info命令,就可以獲得數(shù)據(jù)集的簡(jiǎn)要描述。如果想要真正了解正在使用的數(shù)據(jù)集的話,這一點(diǎn)非常重要。

df.describe()

可以看出,數(shù)據(jù)集共有100003條記錄,電影的平均評(píng)分介于3.52-5之間。

現(xiàn)在我們?cè)賱?chuàng)建一個(gè)dataframe,其中包含每部電影的平均評(píng)分和評(píng)分?jǐn)?shù)量。之后,這些評(píng)分將用來(lái)計(jì)算電影之間的相關(guān)性。相關(guān)性是一種統(tǒng)計(jì)指標(biāo),表示兩個(gè)或多個(gè)變量一起波動(dòng)的程度。相關(guān)系數(shù)越高,電影越為相似。

以下例子將使用Pearson相關(guān)系數(shù) (Pearson correlation coefficient),該數(shù)字介于-1和1之間,1表示正線性相關(guān),-1表示負(fù)相關(guān), 0表示沒(méi)有線性相關(guān)。也就是說(shuō),具有零相關(guān)性的電影完全不相似。

我們會(huì)使用pandas groupby 功能來(lái)創(chuàng)建dataframe。按照標(biāo)題對(duì)數(shù)據(jù)集進(jìn)行分組,并計(jì)算其平均值獲得每部電影的平均評(píng)分。

ratings = pd.DataFrame(df.groupby('title')['rating'].mean()) ratings.head()

接下來(lái)我們創(chuàng)建number_of_ratings列,這樣就能看到每部電影的評(píng)分?jǐn)?shù)量。完成這步操作后,就可以看到電影的平均評(píng)分與電影獲得的評(píng)分?jǐn)?shù)量之間的關(guān)系。五星級(jí)電影很有可能只被一個(gè)人評(píng)價(jià),而這種五星電影在統(tǒng)計(jì)上是不正確的。

因此,在構(gòu)建推薦系統(tǒng)時(shí),我們需要設(shè)置閾值。我們可以使用pandas groupby功能來(lái)創(chuàng)建新列,然后按標(biāo)題欄分組,使用計(jì)數(shù)函數(shù)計(jì)算每部電影的評(píng)分。之后,便可以使用head()函數(shù)查看新的dataframe。

rating ['number_of_ratings'] = df.groupby('title')['rating'].count() ratings.head()

接下來(lái)我們使用pandas繪制功能來(lái)繪制直方圖,顯示評(píng)級(jí)的分布:

import matplotlib.pyplot as plt %matplotlib inline ratings['rating'].hist(bins=50)

可以看到,大多數(shù)電影的評(píng)分都在2.5-4之間。通過(guò)類(lèi)似的方法還可以將number_of_ratings列可視化。

ratings['number_of_ratings'].hist(bins=60)

從上面的直方圖中可以清楚地看出,多數(shù)電影的評(píng)分都很低,評(píng)分最高的電影是一些非常有名的電影。

現(xiàn)在讓我們?cè)賮?lái)看一下電影評(píng)級(jí)與評(píng)分?jǐn)?shù)量之間的關(guān)系。我們可以使用seaborn繪制散點(diǎn)圖,然后使用jointplot()函數(shù)執(zhí)行此操作。

import seaborn as sns sns.jointplot(x='rating', y='number_of_ratings', data=ratings)

從圖中我們可以看出,電影平均評(píng)分與評(píng)分?jǐn)?shù)量之間呈正相關(guān)關(guān)系,電影獲得的評(píng)分?jǐn)?shù)量越多,其平均評(píng)分越高。

創(chuàng)建基于item的簡(jiǎn)易推薦系統(tǒng)

接下來(lái)我們會(huì)快速創(chuàng)建一個(gè)基于item的簡(jiǎn)單的推薦系統(tǒng)。

首先,我們需要將數(shù)據(jù)集轉(zhuǎn)換為矩陣,電影標(biāo)題為列,user_id為索引,評(píng)級(jí)為值。完成這一步,我們將得到一個(gè)dataframe,其中列是電影標(biāo)題,行是用戶ID。每列代表所有用戶對(duì)電影的所有評(píng)級(jí)。評(píng)級(jí)為NAN表示用戶未對(duì)這部電影評(píng)分。

我們可以用該矩陣來(lái)計(jì)算單個(gè)電影的評(píng)級(jí)與矩陣中其余電影的相關(guān)性,該矩陣可以通過(guò)pandas pivot_table實(shí)現(xiàn)。

movie_matrix = df.pivot_table(index ='user_id',columns ='title',values ='rating') movie_matrix.head()

接下來(lái)讓我們找到評(píng)分?jǐn)?shù)量最多的電影,并選擇其中的兩部電影。然后使用pandas sort_values并將升序設(shè)置為false,以便顯示評(píng)分最多的電影。然后使用head()函數(shù)來(lái)查看評(píng)分?jǐn)?shù)目最多的前十部電影。

ratings.sort_values('number_of_ratings', ascending=False).head(10)

假設(shè)一個(gè)用戶曾看過(guò)Air Force One(1997)和Contact(1997),我們想根據(jù)這兩條觀看記錄向該用戶推薦其他類(lèi)似的電影,那么這一點(diǎn)可以通過(guò)計(jì)算這兩部電影的評(píng)級(jí)與數(shù)據(jù)集中其他電影的評(píng)級(jí)之間的相關(guān)性來(lái)實(shí)現(xiàn)。第一步是創(chuàng)建一個(gè)dataframe,其中包含來(lái)自movie_matrix的這些電影的評(píng)級(jí)。

AFO_user_rating = movie_matrix['Air Force One (1997)'] contact_user_rating = movie_matrix['Contact (1997)']

Dataframe可以顯示user_id和這兩部電影的評(píng)分。

AFO_user_rating.head() contact_user_rating.head()

使用pandas corwith功能計(jì)算兩個(gè)dataframe之間的相關(guān)性。有了這一步,就能夠獲得每部電影的評(píng)級(jí)與Air Force One電影的評(píng)級(jí)之間的相關(guān)性。

similar_to_air_force_one = movie_matrix.corrwith(AFO_user_rating)

可以看到,Air Force One電影和Till There Was You(1997)之間的相關(guān)性是0.867。這表明這兩部電影之間有很強(qiáng)的相似性。

similar_to_air_force_one.head()

還可以計(jì)算Contact(1997)的評(píng)級(jí)與其他電影評(píng)級(jí)之間的相關(guān)性,步驟同上:

similar_to_contact = movie_matrix.corrwith(contact_user_rating)

可以從中發(fā)現(xiàn),Contact(1997)和Till There Was You(1997)之間存在非常強(qiáng)的相關(guān)性(0.904)。

similar_to_contact.head()

前邊已經(jīng)提到,并非所有用戶都對(duì)所有電影進(jìn)行了評(píng)分,因此,該矩陣中有很多缺失值。為了讓結(jié)果看起來(lái)更有吸引力,刪除這些空值并將相關(guān)結(jié)果轉(zhuǎn)換為dataframe。

corr_contact = pd.DataFrame(similar_to_contact, columns=['Correlation']) corr_contact.dropna(inplace=True) corr_contact.head()corr_AFO = pd.DataFrame(similar_to_air_force_one, columns=['correlation']) corr_AFO.dropna(inplace=True) corr_AFO.head()

上面這兩個(gè)dataframe分別展示了與Contact(1997)和Air Force One(1997)電影最相似的電影。然而,問(wèn)題出現(xiàn)了,有些電影的實(shí)際質(zhì)量非常低,但可能因?yàn)橐粌晌挥脩艚o他們5星評(píng)級(jí)而被推薦。

這個(gè)問(wèn)題可以通過(guò)設(shè)置評(píng)級(jí)數(shù)量的閾值來(lái)解決。從早期的直方圖中看到,評(píng)級(jí)數(shù)量從100開(kāi)始急劇下降。因此可以將此設(shè)置為閾值,但是也可以考慮其他合適的值。為此,我們需要將兩個(gè)dataframe與rating datframe中的number_of_ratings列一起加入。

corr_AFO = corr_AFO.join(ratings['number_of_ratings']) corr_contact = corr_contact.join(ratings['number_of_ratings'])corr_AFO.head()corr_contact.head()

現(xiàn)在,我們就能得到與Air Force One(1997)最相似的電影,并把這些電影限制在至少有100條評(píng)論的電影中,然后可以按相關(guān)列對(duì)它們進(jìn)行排序并查看前10個(gè)。

corr_AFO [corr_AFO ['number_of_ratings']> 100] .sort_values(by ='correlation',ascending = False).head(10)

我們注意到Air Force One(1997)與自身相關(guān)性最高,這并不奇怪。下一部與Air Force One(1997)最相似的電影是Hunt for Red October,相關(guān)系數(shù)為0.554。

顯然,通過(guò)更改評(píng)論數(shù)量的閾值,我們可以按之前的方式得到不同的結(jié)果。限制評(píng)級(jí)數(shù)量可以讓我們獲得更好的結(jié)果。

現(xiàn)在重復(fù)上邊的步驟,可以看到與Contact(1997)電影最相關(guān)的電影:

corr_contact [corr_contact ['number_of_ratings']> 100] .sort_values(by ='Correlation',ascending = False).head(10)

與Contact(1997)最相似的電影是Philadelphia(1993),相關(guān)系數(shù)為0.446,有137個(gè)評(píng)級(jí)。所以,如果有人喜歡Contact(1997),我們可以向他們推薦上述電影。

以上是構(gòu)建推薦系統(tǒng)的一種非常簡(jiǎn)單的方法,但并不符合行業(yè)標(biāo)準(zhǔn)。后續(xù)的話我們可以通過(guò)構(gòu)建基于存儲(chǔ)器的協(xié)同過(guò)濾系統(tǒng)來(lái)改進(jìn)該系統(tǒng)。在這種情況下,將數(shù)據(jù)劃分為訓(xùn)練集和測(cè)試集,使用諸如余弦相似性來(lái)計(jì)算電影之間的相似性;或者構(gòu)建基于模型的協(xié)作過(guò)濾系統(tǒng),然后使用Root Mean Squared Error(RMSE)等技術(shù)評(píng)估模型。

Github: https://github.com/mwitiderrick/simple-recommender-

英文:How to build a Simple Recommender System in Python

以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。

相關(guān)文章

最新評(píng)論