文档章节

推荐系统实践笔记(一)

o
 osc_g8254g7s
发布于 2019/08/19 17:56
字数 1752
阅读 0
收藏 0

精选30+云产品,助力企业轻松上云!>>>

第一章:好的推荐系统

1.1 什么是推荐系统

  当用户没有明确需求的时候(有明确需求的时候,通过搜索引擎一般都能够解决问题),如果周末想去看电影,但是不确定看什么电影(不确定的需求),这时候需要一个自动化的工具,它能够根据你的历史行为分析出你可能会喜欢哪些系统.推荐系统是自动联系用户和物品的一种工具.

1.2  个性化推荐系统

  (1) 电子商务 (item_base)

  (2) 电影以及视频网站

  (3) 个性化的音乐电台 (Pandora对音乐进行专家标注,embedding的思想,在推荐的时候利用其专家标注来计算相似度)

  (4) 社交网络

    a. 利用社交网络信息对用户进行个性化的物品推荐(你的好友近期的动态作为你的历史行为的一个参考,也就是你可能会感兴趣的部分)

    b. 信息流的会话推荐(facebook的EdgeRank算法尽量保证用户能看到熟悉的好友的最新会话)

    c. 给用户推荐好友

  (5) 个性化阅读

  (6) 基于位置的服务

  (7) 个性化邮件

  (8) 个性化广告

1.3  推荐系统评测

  一个好的推荐系统需要考虑三个参与方:用户,物品提供者,提供推荐系统的网站.好的推荐系统不仅仅要能够准确的预测用户的行为,而且能够扩展用户的视野,帮助用户发现那些他们可能会感兴趣,却不容易发现的东西.

1.3.1 推荐系统实验方法

  1. 离线实验.

  (1) 通过日志系统获得用户行为数据,并按照一定格式生成一个标准的数据集;

  (2) 将数据集按照一定的规则分成训练集和测试集;

  (3) 在训练集上训练用户兴趣模型,在测试集上进行预测;

  (4) 通过事先定义的离线指标评测算法在测试集上的预测结果。

  好处: 实验在日志系统提供的数据集上进行,不需要用户参与,能够方便,快速的测试大量不同的算法.

  缺点: 无法获得很多商业上关注的指标,如点击率、转化率等,而找到和商业指标非常相关的离线指标也是很困难的事情.

  2. 用户调查

  离线实验和实际的商业指标有着一定的差距,而直接上线测试有着比较高的风险,一般在实际上线之前有一个用户调查.

  3. 在线实验

  AB测试简单来说,就是为同一个目标制定两个方案(比如两个页面),让一部分用户使用 A 方案,另一部分用户使用 B 方案,记录下用户的使用情况,看哪个方案更符合设计目标。切分流量是AB测试中的关键,不同的层以及控制这些层的团队需要从一个统一的地,方获得自己AB测试的流量,而不同层之间的流量应该是正交的。

  一个推荐系统在上线之前需要经过上述三个实验:

  (a) 首先,通过离线实验证明一个算法优于现存的算法.

  (b) 其次,需要通过用户调查确定该算法的用户满意度不低于现有算法

  (c) 通过在线的AB测试确定它在研究人员关心的指标上优于现有的算法.

1.3.2 评测指标

  1. 用户满意度(通过在线的反馈获取,可以是用户的点击率,用户停留时间和转化率)

  2. 预测准确度

  推荐系统或者算法预测用户行为的能力,是重要的离线数据.

  (a) 一般用RMSE(均方根误差)和平均绝对误差(MAE)计算.RMSE由于有平方项的计算,会加大对预测不准用户评分的惩罚,其训练出来的系统会更加严苛一些,如果评分系统是基于整数建立的(即用户给的评分都是整数),那么对预测结果取整会降低 MAE 的误差.

  (b) TopN推荐.网站在提供推荐服务的时候,一般是给用户一个个性化的推荐列表,TopN的预测准确率一般通过(precision/recall)来度量.recall是从所有实际为真的样本中被正确分类的比例,precision是所有被预测为真的样本中实际是真样本的概率.

  3. 覆盖率 (内容提供商关注的评价指标)

  描述一个推荐系统对物品长尾的挖掘能力.最简单的定义方法为推荐系统能够推荐出来的物品占总物品的比例.主要评价指标有两个,一个是信息熵:

 另一个是基尼指数:.如果各个物品都在推荐系统的列表中,且出现的次数差不多,那么推荐系统的长尾发掘能力就很好(每个物品都要推荐给适合的人,对于那些不热门的物品,一个好的推荐系统也要有推荐的能力)

(这里p(i)是物品i的流行度除以所有物品流行度之和,$i_j$是按照流行度p()从小到大排序的物品列表中第j个物品)

 

  马太效应: 强者更强,弱者更多.一个系统会增大热门与非热门物品流行的差距,那么这个系统就是有马太效应.主流的推荐系统算法是有马太效应的,判断是否有马太效应的方法,比较推荐前后物品流行度的gini指数,如果推荐后gini指数增大,那么该系统有马太效应.

  4. 多样性

  5. 新颖性 (推荐用户没有接触过的物品)

  6. 惊喜度 (推荐结果与用户历史兴趣不相似但却让用户觉得满意,那么可以说该推荐的惊喜度比较高)

  7. 信任度 (用户对系统信任程度)

  8. 实时性 (实时更新推荐列表;能够将新加入系统的物品推荐给用户)

  9. robust (抗击作弊的能力)

  处理方法:

  (1) 在训练的时候模拟攻击注入噪声

  (2) 设计推荐系统的时候尽量使用代价比较高的用户行为

  (3) 在使用数据之前, 进行攻击检测,从而对数据进行清理

指标总结:(1)

  (2)离线实验优化的目标:

  最大优化预测精准度

  使得 覆盖率 > A  
  多样性 > B  
  新颖性 > C
  其中, A 、 B 、 C 的取值应该视不同的应用而定。

o
粉丝 0
博文 500
码字总数 0
作品 0
私信 提问
加载中
请先登录后再评论。

暂无文章

物联网开发服务开发虚拟设备需要几步?

云栖号快速入门:【点击查看更多云产品快速入门】 不知道怎么入门?这里分分钟解决新手入门等基础问题,可快速完成产品配置操作! 物联网平台设备的正常开发流程是:设备端开发完成,设备上报...

osc_2axit9df
50分钟前
18
0
互联网互联网必看文章墙裂推荐

后端必看文章系列 大型项目架构演进过程及思考的点

code-ortaerc
50分钟前
20
0
ACL2020论文整理 - 知乎

ACL2020录取文章已经放出,链接如下: ACL2020论文集合 www.aclweb.org 为了以后更加方便地阅读论文,也本着一颗开源之心,花一个下午的时间整理了一下相关论文。鉴于本人精力有限,并且也只...

osc_5w65ebjo
51分钟前
10
0
SU(N) Hubbard 模型平均场

osc_31d5oo2i
53分钟前
18
0
Python语言及其应用PDF高清完整版百度云盘免费下载|python基础教程PDF电子书推荐

编辑推荐 本书内容易于理解,而且读起来生动有趣,是编程和Python初学者不可多得的教程。书中首先介绍了Python的基础知识,然后逐渐深入多种主题,结合教程和攻略式风格来讲解Python 3中的概...

osc_nbg2lo7i
53分钟前
17
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部