推荐系统无处不在,而且在整个网络上都是非常标准的。亚马逊、Netflix和许多这样的公司都在使用推荐系统。我们将要构建的这个版本与Spotify或Youtube音乐的使用非常相似,但要简单得多。
接下来需要用到的工具是 Tableau 和 Python3 。先介绍D L a $ p一下数据集,稍后我将在数据可视化部分简要介绍Tableau。
数据集
百万首歌曲数据集是一个免费收集的音频功能和元数据为一百万个当前流行音乐曲目库。
以下C = s是数据集的链接:
https://s| x v A * Q Ltatic.turi.com/datasets/millionsong/h G { @ } j i 9 *10000.txt
https:/// P B Qstatic.turi.com/datasets/millionsong/song_data.c| S m r Rsv
这是我们需要合并的两个数据集。我们将使用Python3连接数据集并将其导入Tableau中进H I 4 U l 2 5 N行数据可视化。
#导入所有必需的库
import numpy as np
import pandas as pd
#导入两个数据集
songmetadata = pd.read_csv(r\'Path where the file is located\')
#其中一个文件l p 2 C & o 8是文本文件n [ L & V ^ { P v,因此我们使用pd.read_fwf导入它
#fwf代表固定宽度文件R a a
othersongdata = pd.read_fw^ S Vf(r\'Path where the file is located\')
#为 othersongdata 命名列
others@ s ( *ongdata.columns = [\'user_# s 3 U f Bid\',\'song_id\',\'listen_count’]
#合并数据集并删除重复项
song_df = pd.merge(othersongdata, songmetadata.drop_duplicates([\'song_id\']), on=\"k U ;song_id\", howo 7 : b l _ C _ =\"left\")
#在L n ?.csv中8 e Y B / b写入文件以在Tableau中可视化
soP $ F / hng_df.to_csv(r\'Path where you want to store the exported CSV file\\File Name.csv\', index = False)
在合并数据集之后,Y g m 6我们得到的是一个一百万首歌曲的数据集,数据集有超过一百万个观测数据,由七个变量组成。
Song_id = Object
#数据集中每首歌的唯一IDx v J k # ~ 1 l,数据集中总共有1000首歌
User_id = Object #
Unique ID for every user
每个用户的唯一ID
Listen_count = int
#NumB : c H C m H t &ber of times a song was listened by an user
Arti1 v Yst_= # {name = Str
#Name of Art? ; % Z ( J Y 3 mist) x X : G 0 7
Title =* M 5 Str
#Title of each song
Year = int
#Categorical variable with lot of zero values
Rex A O 3 flease = Str
#Album to which the songs belong to
数据可视化
可视化能给E w + $ ; * l $你所有你不知道的问题的答案--本施奈德曼
可视化数据、理解数据和发现见解总是一个很好的实践。我使用Tablf h d a K Weau是因为它很快,并且提供了大量可视化数据集的选项。Tableau大大改进了我们的工作流程,此外,它是] m * S & A免费的!
什么是TreeMaps?
在这个项目中广泛使用TreeMaps来显示数据,这些数据可视化后的非常易于观看,而且是可定制化的。
维基百科已经用一种我无法理解的格式解释它:
Treemaps将分层(树结构)数据显示为一组嵌套矩形。i 1 V n树的每个分支都有一个矩形,然后用代表分支的较小矩形平铺。叶节点的矩形区域与数据的指定维度成比例。通常叶节点被着色以显示数据的单独维度。--维基百科
Tableau
在写这篇文章的时候,我想,什么是最好的方式来解释一个人,“如何在Tableau中创建TreeMaps?”. 我不想通过截图的途径。我能做什么?所以我制作了一个容R I A 0 g ^ 5 ,易理解的视频。
要将数据转换为表格,需要将.csv转换为ec U G h r 3 $ I jxcel工作簿。您可以使用python中的L & h R以下命令轻松完成此操作:
song_df.to_excel(\"millionsong.xlsx\")
有时转换需要大量的时间,所以我在这里提供了一个可以随时下载的excel工作簿。
无论如何,这是一个全面的Tableau指J F O ? f @ J *南,它只是一个概述* ; 5 Q s ( h,让您熟悉Tableau是如何工作的,以及TreeMaps是如何制作的。
第一个TreeMap表示数据集中年份变量相对于侦听计数的比例。图表显示数据集中有许多零B n 4 ` |。由于我们在创建音乐推荐系统时不会使用Year变量,因此我们不会删除这些观察结果。
第二个TreeMap表示与数据集中的总侦听计数相关的艺术家。Coldplay以36406首点击率成为数据集中最受关注的艺术家,其次是Kings Of Leon,点击率为32552。
业务问题
太多的选择会让用户不知所措。如果提供的选项太多,用户可能不会购买j W : , 6 U n s任何东西。像Spotifz w I D N I V zy这样的流媒体服务有大量的目录。识别用f P / 8户可能喜欢的跟X g r i 5 u A踪并推荐他们可能喜欢的产品对他们的业务至关重要。
我们将创建两个播放列8 q q 9表,一个是流行的播放列表,第二个是识别与用户已经喜欢的歌曲相似的歌曲,从而为他k j 6 q ] O V 6们_ { L a提供个性化的推荐。
推荐系统
基于内容的推荐系统
CBRS根据项目的特征和其他项目元素之间的相似性推荐项目。假设用户已经看过喜剧类型的电影,CBRS将推荐同样属于喜剧类型的电影。
协同过滤推荐系统
用户偏好和态度k @ A n被认为是创建cfr的基础。CFRS推荐的项目与用户已经选择的相似。我们将使用皮尔逊相关来计算相似轨迹之间的关系k 5 , x。
为什么我们使用协同而不是关联?
关联只描{ O L ~ h p f述了两个变量之间的关系,而协同不仅描述了两个变量之间的关系,还描述了两个变量之间的强度。因此,当我们创建一个协同过滤推荐系统时,我们使用相关性。
开始编写代码
首先,我们创建流行的播放列表。
iy k = t A G s T umport pandl G $ o p c v qas as pd
songmetadata = pd.read_csv(r\'E:\\Analytics\\song_data.csv\')
othersongdata = pd.read_fwf(r\'E:\\Analyticr 0 F : ; Z ? 3 9s\\10000.txt’)
songmetadata = pd.DataFrame(songmetadataB ] : A)
othersongdata.columns =e } + v / l : - ^ [\'user_id\',\'song_i} R v n Dd\',\'listen_count’]
song_df = pd.merge(othersongdata, songmetadata.drop_duplicates([\'sonn U e 4 R b % %g_id0 5 8 \']), on=\0 B 7 [ 2 8 {"song_id“, how =\"left“)
song_grouped = song_df.groupby([\'title6 b N\']).agg({\"listen_count\":\"count\"})
group_ . a N 3 4 D ! ?ed_sum = song_grouped[\'listen_cod R @ : e ~ _unt\/ & ?'].sum()
#计算每首歌曲在收听计数中所占的百分比
song_grouped[\'percentage\# & n ('] = song_grouped[\'lisp M R u 7 w sten_count\'].div(grouped_s3 I M dum)*100
#根据侦听计数对数据集排序
song_grouped = song_grouped.sort_values([\'listen_count\'],ascending = True)
song_df = song_df[\'listen_count\'].astype(float)
popular= J I c q S = song_grouped.soJ | m w 6rt_values(B 1 J t #by = \'listen_count\ 3 z')
#筛选数据集中的前十首歌曲
popularsongs = popular[9517:9567]
p{ f z t w K O Lopularsongs = pd.DataFrame(| + b jpopularsongs.reset_index())
popularsongs 2 e T v q ).sort_values(\'listen_count\', ascending = False)
popularst ! k P B 3 U Tongs
现在我们将制作CFR并创建个性化播放列表,推荐系统的结果如下:
import numpy as np
import pandas as pd
songmetadata = pd.rg W n yead_csv(r\'E:\\Anax D R } lytics\\song_data.csv\1 1 / x H k 3 P [')
othersongdata = pd.read_fwf(r\'E:` ? W ? k n v q .\Analytics\\10000.txt\')
othersongdata.columns = [\'user_id\',\'song_id\',\'listen_count’]
song_- b pdf6 W J U t = pd.merge(othersongdata, songmetadata.drop_duplicates([\'song_id\']), onx I x b o=\"song_id\", how=\"left\")
song_grouped = pd.DataFrame(song_df.groupby(\'song_id\')[\'listen_count\'].count())
song_grouped = pd.DataFrame(song_df.groupby(\'song_id\')[\'listen_count\'].count())
song_df.astype({\'listen_count\': \'int32\'},{\'song_id\! x Y #':\'str\'}).dtypes
song_df[songs n j 9 k_df[\'song_id\'] == \'SOFVZRE12A8C139783\']
songs_crosst; = ; 8 Vab = pd.pivot_table(song_df, vo _ : values = \'listen_count\', index = \'3 Z K ~ : Wuser_id\', columns = \'song_id’)
songs_crosst~ # . *ab.head()
pi 1 . ~ 0 l ] Jredictor_song_ratings = songs_cr3 G x T 7 tosstab[\'SOFVZRE12A8C1G V D I 0 & F 6 =39783\']
pre% ~ _dictor_so# 2 Q ~ d n d M cng_ratings[predictor_song_ratings>= 1]
similar_songs = songs_crosr 0 u Fstab.corrwith(predictor_song_ratings)
corr_listened_song = pd.DataFrame(similar_songs, columns = [\': s O ~ gpearsonR\'])
corr_listened_song.dropna(inplace = True)
predictor_corr_summary =corr_listened_song.join(song_grouped[\'listen_count\'])
predictorp 2 b b S % 1 9 K_corr_summaI ~ ) d _ 9 f Ory = predictor_corr_summary.sort_values(\'pearsonR\', ascending = False)
final_recommended_songs = predictor_corr_summary[predictor_corr_summary.m l g %pearsonR < 0.9999]
final_recommended_songs.sn i ] Q F ^ Y h &ort_values(\'pearsonR\', ascending = False)
fin_ I @ F } m . bal_recommended_sq + X D y qongs = final_recommended_songO { Ws.reset_indu } E + Yex()
song_df_R v $ { X none = song_df.drop([\'listen_count\'], axis=$ E $ !1)
similar_songs = pd.merge(final_recommended_songs, song_df_one.drop_dupZ ( ~ = Qlicates([\"song_id\"]), on=\"song_id\", how=\"left\")
similar_songs = similar_songs.sort_values(\'pearN r I 4sonR\', ascending =; F v v False)
similar_songs.head(50)
以上。有从事算法推荐岗位的同学不妨练习起来!在很多音乐推荐或者电商推荐里,使用的算法会有一定的偏差,音乐推荐算法主要考量的数据是你听得次数最多的、收藏等,赶紧行动起来!
--END--
翻译:未艾信息(www.v & V 5 D k =weainfo.net)
查看更多最新资讯,欢迎大家点击阅读原文登录我们的AI社区。
以及关注我们的公众号:为AI呐喊(weainahan)