python基于物品协同过滤算法实现代码
本次测试基于MovieLens数据集实现的基于物品的协同过滤,目前只是在小样本上实现,主要问题是计算太耗内存,后期代码继续优化与完善。
数据集说明:movies.dat中数据是用户对电影的评分。数据格式:UserID::MovieID::Rating::Timestamp。
代码
importpandasaspd importnumpyasnp importmath importos importtime importdatetime os.chdir(r'f:\zxx\pthon_work\CF') defloadData(): #读入movies.dat,rating.dat,tags.dat #mnames=['movie_id','title','genres'] #movies=pd.read_table(r'.\data\movies.dat',sep='::',header=None,names=mnames) rnames=['UserID','MovieID','Rating','Timestamp'] all_ratings=pd.read_table(r'.\data\ratings.dat',sep='::',header=None,names=rnames,nrows=300000) #tnames=['UserID','MovieID','Tag','Timestamp'] #tags=pd.read_table(r'.\data\tags.dat',sep='::',header=None,names=tnames) returnall_ratings #数据探索:rating defdata_alay(ratings): """ratingnums10000054,3, 示例:11225838985046 col:'UserID','MovieID','Rating','Timestamp' """ #一个用户只对一个电影打分一次 UR=ratings.groupby([ratings['UserID'],ratings['MovieID']]) len(UR.size) #计算每部电影的平均打分,电影数10677 defavgRating(ratings): movies_mean=ratings['Rating'].groupby(ratings['MovieID']).mean()#计算所有用户对电影X的平均打分 movies_id=movies_mean.index movies_avg_rating=movies_mean.values returnmovies_id,movies_avg_rating,movies_mean #计算电影相似度矩阵相,即建立10677*10677矩阵 defcalculatePC(ratings): movies_id,movies_avg_rating,movies_mean=avgRating(ratings) #pc_mat=np.eye(3)#建立电影相似度单位矩阵 pc_dic={} top_movie=len(movies_id) foriinrange(0,top_movie): forjinrange(i+1,top_movie): movieAID=movies_id[i] movieBID=movies_id[j] see_moviesA_user=ratings['UserID'][ratings['MovieID']==movieAID] see_moviesB_user=ratings['UserID'][ratings['MovieID']==movieBID] join_user=np.intersect1d(see_moviesA_user.values,see_moviesB_user.values)#同时给电影A、B评分的用户 movieA_avg=movies_mean[movieAID] movieB_avg=movies_mean[movieBID] key1=str(movieAID)+':'+str(movieBID) key2=str(movieBID)+':'+str(movieAID) value=twoMoviesPC(join_user,movieAID,movieBID,movieA_avg,movieB_avg,ratings) pc_dic[key1]=value pc_dic[key2]=value #pc_mat[i][i+1]=twoMoviesPC(join_user,movieAID,movieBID,movieA_avg,movieB_avg,ratings) #print('---the%s,%d,%d:--movie%s--%s--pcis%f'%(key1,movieAID,movieBID,movieAID,movieBID,pc_dic[key1])) returnpc_dic #计算电影A与电影B的相似度,皮尔森相似度=sum(A-A^)*sum(B-B^)/sqrt(sum[(A-A^)*(A-A^)]*sum[(B-B^)*(B-B^)]) deftwoMoviesPC(join_user,movieAID,movieBID,movieA_avg,movieB_avg,ratings): cent_AB_sum=0.0#相似度分子 centA_sum=0.0#分母 centB_sum=0.0#分母 movieAB_pc=0.0#电影A,B的相似度 count=0 foruinrange(len(join_user)): #print'---------',u count=count+1 ratA=ratings['Rating'][ratings['UserID']==join_user[u]][ratings['MovieID']==movieAID].values[0]#用户给电影A评分 ratB=ratings['Rating'][ratings['UserID']==join_user[u]][ratings['MovieID']==movieBID].values[0]#用户给电影B评分 cent_AB=(ratA-movieA_avg)*(ratB-movieB_avg)#去均值中心化 centA_square=(ratA-movieA_avg)*(ratA-movieA_avg)#去均值平方 centB_square=(ratB-movieB_avg)*(ratB-movieB_avg)#去均值平方 cent_AB_sum=cent_AB_sum+cent_AB centA_sum=centA_sum+centA_square centB_sum=centB_sum+centB_square if(centA_sum>0andcentB_sum>0): movieAB_pc=cent_AB_sum/math.sqrt(centA_sum*centB_sum) returnmovieAB_pc """ 预测用户U对那些电影感兴趣。分三步, 1)用户U过去X天看过的电影。 2)提出用户U已看过的电影,根据用户U过去看过的电影,计算用户U对其他电影的打分. 3)拉去打分最高的的电影给用户推荐。 预测用户U对电影C的打分。分三步:(先只做这个) 1)用户U过去X天看过的电影。 2)利用加权去中心化公式预测用户U对电影C的打分. """ #日期处理:-3天,然后转换为uinxtime deftimePro(last_rat_time,UserU): lastDate=datetime.datetime.fromtimestamp(last_rat_time[UserU])#unix转为日期 date_sub3=lastDate+datetime.timedelta(days=-3)#减去3天 unix_sub3=time.mktime(date_sub3.timetuple())#日期转为unix returnunix_sub3 #取用户最后一次评分前3天评估的电影进行预测 defgetHisRat(ratings,last_rat_time,UserUID): unix_sub3=timePro(last_rat_time,UserUID) UserU_info=ratings[ratings['UserID']==UserUID][ratings['Timestamp']>unix_sub3] returnUserU_info #预测用户U对电影C的打分 defhadSeenMovieByUser(UserUID,MovieA,ratings,pc_dic,movies_mean): pre_rating=0.0 last_rat_time=ratings['Timestamp'].groupby([ratings['UserID']]).max()#获取用户U最近一次评分日期 UserU_info=getHisRat(ratings,last_rat_time,UserUID)#获取用户U过去看过的电影 flag=0#表示新电影,用户U是否给电影A打过分 wmv=0.0#相似度*mv平均打分去均值后之和 w=0.0#相似度之和 movie_userU=UserU_info['MovieID'].values#当前用户看过的电影 ifMovieAinmovie_userU: flag=1 pre_rating=UserU_info['Rating'][UserU_info['MovieID']==MovieA].values else: formvinmovie_userU: key=str(mv)+':'+str(MovieA) rat_U_mv=UserU_info['Rating'][UserU_info['MovieID']==mv][UserU_info['UserID']==UserUID].values#用户U对看过电影mv的打分 wmv=(wmv+pc_dic[key]*(rat_U_mv-movies_mean[mv]))#相似度*mv平均打分去均值后之和 w=(w+pc_dic[key])#看过电影与新电影相似度之和 #print('---haveseenmv%dwithnewmv%d,%f,%f'%(mv,MovieA,wmv,w)) pre_rating=(movies_mean[MovieA]+wmv/w) print('-flag:%d---User:%dratingmovie:%dwith%fscore----'%(flag,UserUID,MovieA,pre_rating)) returnpre_rating,flag if__name__=='__main__': all_ratings=loadData() movie_num=100#控制电影数,只针对电影ID在该范围的数据进行计算,否则数据量太大 ratings=all_ratings[all_ratings['MovieID']<=movie_num] movies_id,movies_avg_rating,movies_mean=avgRating(ratings) pc_dic=calculatePC(ratings)#电影相似度矩阵 #预测 UserUID=10#当前数据集只看过电影4,7, MovieA=6 pre_rating,flag=hadSeenMovieByUser(UserUID,MovieA,ratings,pc_dic,movies_mean) "-----------------测试ID提取------------------" #选取UserUID ratings.head(10)#从前10行中随机选取一个用户ID,例如:UserID=10 #查看该用户在当前数据集中看过那些电影,方便选取新电影(防止选择的是用户已经看过的电影) ratings[ratings['UserID']==10]#该用户在当前数据集中,只看过电影MovieIDin(4,7),则可选择不是4,7的电影ID进行预测,例如6.
运行结果:
-flag:0---User:10ratingmovie:6with4.115996score----
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持毛票票。