常用推荐算法介绍

零基础学产品,BAT产品总监带,2天线下集训+1年在线课程,全面掌握优秀产品经理必备技能。了解详情

在本文中,作者主要是介绍了常见推荐算法的基本原理。

0. 从余弦公式讲起

先思考一个问题,我们怎么量化两个事物的相似度呢?当然,这也是推荐系统需要多次面临的问题。

我们知道向量的概念,可以形象化地表示为带箭头的线段。二维空间向量表示方法为,多维空间向量表示为,向量是描述事物一种很好模型。

比如,假设用户有5个维度:

  1. 对服装的喜欢程度(1~5分)
  2. 对家居的喜欢程度(1~5分)
  3. 对3C的喜欢程度(1~5分)
  4. 对图书的喜欢程度(1~5分)
  5. 对化妆品的喜欢程度(1~5分)
  • 一个用户A:对服装的喜欢程度3,对家居的喜欢程度1,对3C的喜欢程度4,对图书的喜欢程度5,对化妆品的喜欢程度0,用户A可以用向量表示为
  • 一个用户B:对服装的喜欢程度3,对家居的喜欢程度4,对3C的喜欢程度5,对图书的喜欢程度0,对化妆品的喜欢程度2,用户B可以用向量表示为

这两个用户的相似程度是多大呢?既然我们把这两个用户表示为向量,那么我们可以考虑向量怎么判断相似性。没错,看这两个向量的夹角。夹角约小,则相似度越大。

对于向量而言,他们的在多维空间的夹角可以用向量余弦公式计算:

余弦相似度的值本身是一个0~1的值,0代表完全正交,1代表完全一致。就刚才用户A和用户B的例子而言,我们可以知道他们的相似度为:

余弦公式本身应用范围很广,量化相似度在搜索推荐,商业策略中都是常见问题,余弦公式是很好的解决方案。就推荐本身而言,计算内容的相似度,计算用户的相似度,计算用户类型的相似度,计算内容类型的相似度,这些都是可以应用的场景。

1. 推荐的本质是什么

推荐和搜索本质有相似的地方。搜索满足用户从海量数据中迅速找到自己感兴趣内容的需求,属于用户主动获取。推荐则是系统从海量数据中根据获取到的用户数据,猜测用户感兴趣的内容并推荐给用户,属于系统推荐给用户。本质上都是为了在这个信息过载的时代,帮助用户找到自己感兴趣的东西。

推荐系统有很多种形式。运营或者编辑筛选出自己认为最好的内容放在首页,广义上讲这也是一种推荐。不过这个不在我们本期文章的讨论范围,本期主要是讨论系统级别的推荐。这里主要介绍四类常见的推荐方法:

  • 基于内容的推荐
  • 基于内容的协同过滤
  • 基于用户的协同过滤
  • 基于标签的推荐

2. 基于内容的推荐

基于内容的推荐是基础的推荐策略。如果你浏览或购买过某种类型的内容,则给你推荐这种类型下的其他内容。

以电影推荐为例。比如你之前看过《盗梦空间》,则系统会关联数据库中盗梦空间的信息。系统会推荐克里斯托弗·诺兰导演的其他作品,比如《致命魔术》;系统会推荐主演里昂纳多的其他作品,比如《第十一小时》。

如果这个电影系统的数据被很好地分类,那么推荐系统也会给用户推荐这个分类下的其他作品。盗梦空间如果被归为科幻作品,那么可能会推荐其他科幻作品,比如《星际迷航》。

基于内容的推荐好处在于易于理解,但是坏处是推荐方式比较依赖于完整的内容知识库的建立。如果内容格式化比较差,那么基于内容的推荐就无法实行。同时如果用户留下的数据比较少,则推荐效果很差,因为无法扩展。

3. 基于内容的协同过滤

协同过滤(Collaborative Filtering)与传统的基于内容过滤直接分析内容进行推荐不同,协同过滤会分析系统已有数据,并结合用户表现的数据,对该指定用户对此信息的喜好程度预测。

基于内容的协同过滤(item-based CF),通过用户对不同内容的评分来评测内容之间的相似性,基于内容之间的相似性做出推荐;最典型的例子是著名的“啤酒加尿布”,就是通过分析知道啤酒和尿布经常被美国爸爸们一起购买,于是在尿布边上推荐啤酒,增加了啤酒销量。

需要计算用户u对物品j的兴趣,公式如下:

这里N(u)表示用户有关联的商品的集合,wji表示物品j和i的相似度,rui表示用户u对物品i的打分,示例如下:

这里还有两个问题没有仔细描述,如何打分,如何计算相似度。

打分的话需要根据业务计算,如果有打分系统最好,没有打分系统,则需要根据用户对这个物品的行为得到一个分数。

计算相似度除了之前我们提到的余弦公式,还可以根据其他的业务数据。比如对于网易云音乐而言,两首歌越多的被加入两个歌单,可以认为两首歌越相似。对于亚马逊而言,两个商品越多的被同时购买,则认为两个商品相似。这里其实是需要根据产品的具体情况进行调整。

4. 基于用户的协同过滤

基于用户的协同过滤(user-based CF),通过用户对不同内容的行为,来评测用户之间的相似性,基于用户之间的相似性做出推荐。这部分推荐本质上是给相似的用户推荐其他用户喜欢的内容,一句话概括就是:和你类似的人还喜欢下列内容。

需要计算用户u对物品i的兴趣,公式如下(可以和基于物品的协同过滤仔细对比):

这里N(i)表示对物品i有过行为的用户集合,wuv使用用户u和用户v的相似度,rvi表示用户v对物品i的打分,示例如下:

同样的,这里计算相似度如果用到余弦公式,其实最主要的是选好维度。对于音乐而言,可能是每首歌都作为一个维度,对于电商而言,也可以是每个商品都是一个维度。当然,用一些可理解的用户标签作为维度也是可以的。

5. 基于标签的推荐

标签系统相对于之前的用户维度和产品维度的推荐,从结构上讲,其实更易于理解一些,也更容易直接干预结果一些。关于tag和分类,基本上是互联网有信息架构以来就有的经典设计结构。内容有标签,用户也会因为用户行为被打上标签。通过标签去关联内容。

需要计算用户u对物品i的兴趣,公式如下(可以和基于物品的协同过滤仔细对比):

这里N(u.,i)表示用户u和物品i共有的标签,wuk使用用户u和标签k的关联度,rki表示标签k和物品i的关联性分数,示例如下:

标签查找的方法这里有很大可以发挥的空间,比如,通过知识库进行处理,或者语义分析处理。而对于一些设计之初就有标签概念的网站, 就比较容易,比如豆瓣和知乎。对于知乎而言,公共编辑的标签是天然的标签内容,对于知乎的用户而言,浏览回答关注等行为则是天然的用户标签素材。

6. 总结

对于推荐而言,这几种基本的方法彼此之前都有些应用场景的差别:比如基于知识的推荐,这是比较老旧的推荐方法,但是对于系统和结构比较好的内容,则低成本且高效。比如基于内容的协同过滤,就适用于内容比较有限,但是用户数特别多的情况,比如电商公司。比如基于用户的协同过滤,则比较容易根据用户的兴趣点,发觉热点内容,比如新闻门户。对于基于标签的推荐,有标签系统的很占便宜,它在灵活性和可控制性上都好一些,但是做好很难。

本期主要是介绍了常见推荐算法的基本原理,那么在推荐系统策略设计的时候,有哪些需要特别注意的地方呢?我们怎么衡量一个推荐系统的优劣呢?推荐系统有哪些典型的应用场景呢?欢迎关注专栏,继续阅读下期。

#专栏作家#

潘一鸣,人人都是产品经理专栏作家,THU/PM,知乎专栏:产品逻辑之美

本文原创发布于人人都是产品经理。未经许可,禁止转载。

打赏也是一种认可
5人打赏
评论
有话不说憋着难受!
  1. 对于刚入搜索行业的产品运营新人,想快速了解推荐及搜索的相关内容,有没有推荐的书籍呢(新闻类产品)

    回复
  2. 请教作者前辈一个问题:对于刚上线的项目,应用第3类和第4类算法时如果没有最初始的种子数据,也就是没有“1.6”或者“0.8”这样的初值,如何启动这个推荐呢?

    回复
  3. 基于内容的推荐虽然难做,但却是用户体验最好的一种,因为它能真正做到关联推荐,而不是相似推荐。所有基于相似的推荐最大的问题就是重复推荐,我刚买量自行车还给我推荐自行车,这时候推荐任何周边产品都可以就是不该推荐重复品类的东西,可是目前大多网站都在犯这类错误。

    回复
    1. 推荐算法不是相似推荐,而是相关推荐。内容推荐上限是远低于推荐算法的推荐的。

      回复
  4. 基于内容推荐特别难做,需要产品有一个完整的内容体系,并且这些内容还要在某一个场景有所联系最好。这也是我最近在给界面添加一些推荐功能时所烦躁的,只能一个流程需要一个功能时临时添加,等这些界面功能都添加好了我还要想办法让它们有联系,做到这些不容易。。。哎

    回复
  5. 谢谢分享,很棒

    回复
  6. 从第三段开始,三个图看不懂,能不能解释下?

    回复
    1. 图只是在解释上面的公式。如果仔细看还没看明白的话,可以看下书《推荐系统实践》。

      回复
  7. 写的很完整,收藏了慢慢看。

    回复
  8. 挺好,学渣看看公式表示看不懂

    回复
  9. 不愧是THU出来的学院派

    回复
    1. 客气了 :oops:

      回复