转载:少数人的智慧(The wisdom of the Few)

标签: 算法学术 | 发表时间:2010-11-09 01:12 | 作者:raully7 hanson
出处:http://www.resyschina.com

转载自:http://www.wentrue.net/blog/?p=1034

看到这么个有吸引力的名字,你不会觉得它是一篇学术论文,但实际上,它是的。这是2009年Amatriain等人发表在ACM的一篇关于推荐系统的文章。从这个并不太学术的题 目,你大概可以意想到这里面并不会涉及太多繁琐的理论细节。实际上,如果你有一些关于推荐系统的背景,你可以毫无障碍的把它读下来,因为它就相当于一篇报 告文学一般好懂,但其中揭示的道理却并非如它显示出来的那么显浅,尽管文中的叙述不一定很完备,但这绝对是一个值得细细探讨的主题。

所谓少数人的智慧,实际指是的作者提出的基于专家的协同过滤(CF)在某些方面要优胜于传统的CF算法。这是一个很丰满的工作,其要点如下:

  • 专家用户与一般用户在行为模式上的差异;
  • 设计基于专家的CF推荐算法;
  • 通过两种评测方式,评估专家CF与传统CF在精度上的差异,最后还通过一个用户调查来作出用户体验层面的比较。

之所以要提出专家CF的算法取代传统的CF,是基于传统CF的一些弊病,比如数据的稀疏性,数据噪声以及计算量的庞大等等,而正是这些数据上的原因导致传统 CF算法推荐多样性不足、推荐不准确以及推荐可扩展性不良好等种种问题。这里提出的专家CF算法目的并不在于在某些数学精度指标上压倒传统的CF算法,而 希冀能探究如下几个问题:

  • 一个庞大的用户集合的偏好是否可以通过一个比较小的用户集合的偏好预测出来;
  • 对于一个源数据集来说,另一个与之不同源的、无直接相关的数据集是否具有对它进行推荐的能力;
  • 分析专家的收藏是否可以用作普通用户的推荐;
  • 探讨专家CF是否能解决传统CF的一些难题。

首先定义专家,他们必须是这样的一群人:在一个特定的领域内,他们能对该领域内的条目给出深思熟虑的、一致的、可靠的评价(打分)。在这篇文章里,作者并没有详细地探讨如何从数据中发现一批领域专家,他们挑选的是一批来自从rottentomatoes.com爬取的现成的电影评论专家,这样可以使得他们讨论的主题更为集中,而因为这些专家都是经过人工筛选的,所以,可以忽略因专家挑选算法的不足而给后续算法与分析带来的偏差。

数据集:
文章中大部分的分析都是基于两个数据集:1、来自netflix的一个庞大的电影打分集;2、如上所描述的从rottentomatoes.com爬取筛选 的专家用户打分集。专家数据集有169个经过筛选的用户,他们的打分记录都大于等于250个。经过两个数据集中电影的匹配,剩下8000部两个数据集中都 出现过的电影,占原netflix全集电影的50%左右。

专家用户与一般用户在收藏行为上的差异:
这是一个很具有参考价值的分析,虽然作者并没有提供给我们自动挑选专家的方法,但通过这些分析结论,你可以对你自己通过算法或者人工得到的专家数据集的质量进行评估。所有关于专家用户与一般用户差异的结论都可以通过如下几张图得到。

图2:打分数量与数据稀疏性

图的解释:这是一个累积分布图(CDF),对两个数据集各作一条线。图2a中的每一个点(x, y)表示打分人数<=x的电影占电影总数的比例;类似地,图2b中的每一个点(x, y)表示打分记录<=x的用户占用户总数的比例。

结论:专家用户的打分比一般用户要多得多,数据集也要稠密得多,实际上,数据集2的稀疏系数约为0.07(用户评分矩阵中非0元素的比例),而数据集1的稀疏系数约为0.01。图2a中专家曲线在y上的截距为0.2,表示有20%的电影其实只有一个人打过分。

图3:平均评分的分布

结论1:图3a中,专家用户的曲线在高分段占有更多的电影,说明他们对好电影的认同更为一致;
结论2:图3b中,专家用户自己平均评分的变化范围不大,但对电影的覆盖面更广,即无论好片还是烂片,都有一定量的打分记录,而一般用户正好相反。说明专家用户的打分并不依赖于这是否好片,只是一个客观的评价,而一般用户并不倾向于收藏烂片。

图4:评分的标准差

结论:跟图2a一样的道理,图4a在y有一个0.2的截距。

我觉得存在的一个问题:除非专家们的收藏差异比较大,否则专家对电影意见的更为一致的特性并不会带来一个我们希望的分众性的效果。有时需要人为地引入关于专家收藏的差异性。

专家CF算法:

专家CF算法跟传统的基于用户的CF算法基本是一致的,只是由原来的计算user-user的距离从而找出相近的user这个思路,改为计算user- expert的距离从而找出相近的expert。相似度的计算公式跟一般的公式稍有点不一样。见原文公式1,主要是把余弦距离乘以一个共同收藏比的因子,以添加 共同收藏数量这个因素的影响。得到相似度之后,会计算与用户相邻的专家,其中会引入两个参数作为阈值以保持推荐的质量(这种质量保证机制也导致了无法针对 某些条目计算预测分值,也就有了下面要说的“覆盖率”这一评价指标),详情可以看原文,这里不过多介绍。得到相似邻居之后对条目的预测评分跟传统的CF也 一样,这里也不多说了。

本文我着重介绍的是两点:专家用户的特征与专家用户好处。最初已经说了特征,下面讲好处。

作者使用了两种评估方法,评估了三种推荐方式的效果

三种推荐方式分别是:

  • Critics’s Choice:专家平均算法,计算每个专家用户对每个条目评分的平均值,以此作为对所有用户的预测值。
  • Expert-CF:专家CF,见上文所述。
  • Neighbor-CF:传统CF,见上文所述。

第一种评估方式是常见的MAE(Mean Absolute Error)


过程大家应该很熟悉,把数据集分割成训练集与测试集,根据训练集计算的用户相似度,去预测测试集里的评分,得到误差的绝对值的平均,以及预测的覆盖程度(如 上所说,因为有质量保障机制,所以并非所有的user-item对都有预测评分)。结果如下表所示,专家CF比专家平均的MAE有很大的信息增益效果,虽然 比传统CF要差,但覆盖度却也比传统CF要大。

然而对每个用户的误差研究表明,专家CF逊于传统CF时通常集中于那些预测误差并不大的用户,而且差得也不多(0.1左右),可见对于预测准的用户来说,这点差别并不显著。而对于那些预测得并不那么准的用户,两者差别并不大,专家CF还稍稍好一点。

第二种评估方式是Top-N精度

跟以往的计算Top-N推荐的精确度与召回率的方法不一样,这里把评估变成了一个分类问题,即根据一个设定的阈值delta,把计算出来的预测评分分成 recommendable(大于等于delta)与not-recommendable两个类别;同样把测试集里每个用户评分的条目根据delta分割 成两个类别,然后观察这个真实的类别划分与预测的类别划分之间的交叉情况(true positive与false positive),即可计算得到一个推荐精度的值。

当取delta=4时,专家CF的精度是0.76,传统CF的精度是0.85,两者有一定的差距,当取delta=3时,专家CF的精度是0.89,传统CF的精度是0.90,两者相差不远。即当认为大于等于平均水平(3分)的推荐为有效的话,两个算法的差别不大。

虽然作为学术评测依据,大家都习惯用各种数字评测指标来说明自己的算法比起别人的有多大的优势,但这些数学上的指标到底跟用户体验有多大的关系实际上是没有 人知道的。为此作者又做了一个更现实的用户实验。这个实验是这样的,作者通过一个网站对招募来的57名用户进行预测与评价。首先要求这批用户对100部电 影按照自己的喜好进行打分,然后系统根据四种策略给每个人产生4组10个的推荐电影。这4种策略分别是:1.随机选取;2.根据专家打分平均从高往低取;3.传统CF;4.专家CF。并要求用户对这给出的4组推荐分别作出评价,评价的问题是4个:1.对推荐结果的总体感觉;2.有没有你喜欢的推 荐;3.有没有你不喜欢的推荐;4.有没有惊喜。这4个问题的答案需以1-5(第一题)或1-4(其余三题)分值的形式给出。因为实际进行中每个用户在第 一步时评分的电影其实很少,平均每名用户评分14.5(虽然给出100部电影要求打分),这也正好切合了一个新用户面对推荐系统时的情况,也即冷启动。结果令作者非常满意,几个问题里策略4专家CF都占有压倒性的优势,而策略3传统CF的表现只能跟策略2专家平均差不多,甚至更差。

最后的总结作者吹嘘了一番专家CF相比于传统CF的几大优势:

  • 数据稀疏性:推荐数据集固有的数据稀疏问题会因为信息量不足而带来一些额外的问题,专家收藏的数据稀疏度要比全体用户收藏的稀疏程度要低,即有更多的可参考的信息。
  • 噪声评分:数据集里面难免会存在一些噪声评分,无论用户是有意的还是无意的,甚至还有些故意捣乱的用户或spammer。而专家在这方面则可靠得多,而且个人意见也比较容易保持一致。
  • 冷启动问题:这是专家CF的一大卖点。对于用户冷启动,由于数据稀疏性与噪声问题而造成的问题,在专家CF里得到了不错的解决。实验也证明了这一点。对于条目冷启动,由于专家更具有前瞻性,所以新条目更容易通过专家而进入到推荐池中。
  • 可扩展性:如果直接使用基于用户相似度的CF算法进行推荐,在实际系统中几乎是不可行的,因为构造一个用户相似度矩阵是如此地庞大。而使用量要少得多的专家作为相似度矩阵的一个维度,矩阵的规模则现实得多。
  • 隐私:这里还考虑了这样的一种可能性,即不需要你把数据传递到服务器,只需要把专家喜好传递到客户端,与你本地的收藏相匹配,然后服务器给你返回相应的推荐,避免了服务器记录你的收藏。

我补充一下,其实专家CF的对条目的覆盖面与多样性应该要更好一些,这跟专家收藏数量以及收藏的覆盖面更广这个特性有关。

看这篇文章,更多的是看文中阐述的思想,虽然这可能并不是他们首创的,但毕竟他们作了一个很好的总结与分析。我一直在思索我们到底需要什么样的推荐,最近我觉得:至少在大部分的场合,我们需要的并不是与自己相似的用户的推荐,而是与自己相似的专家的推荐。无论是看书、看电影、买手机、买笔记本,那批“行内人 物”的观点往往是左右我们决定的主要因素。这个结论在个性化要求相对比较低的中国显得更为真实。

-------------

转载once同学之前的文章。个人感觉这种利用少数专家、活跃用户的思路,想法挺不错,同时针对应用也具有实际的意义。近来被数据稀疏性困扰,正打算尝试类似的做法,回头有时间结合手头的应用再来聊一聊。

相关 [智慧 the wisdom] 推荐:

转载:少数人的智慧(The wisdom of the Few)

- hanson - Resys China
转载自:http://www.wentrue.net/blog/?p=1034. 看到这么个有吸引力的名字,你不会觉得它是一篇学术论文,但实际上,它是的. 这是2009年Amatriain等人发表在ACM的一篇关于推荐系统的文章. 从这个并不太学术的题 目,你大概可以意想到这里面并不会涉及太多繁琐的理论细节.

二楞的智慧

- lzhi - Lzhi&#39;s Views
城里打工的二愣一个电话打给媳妇水月“水月,我被砸了头,医生说要不少医药费呢. ”水月急了,大哭:“那可怎么办啊. 二愣粗着嗓子吼了一声:“哭有啥用. 二愣家里本来就穷,这回听说他被砸了头,村里人更是避之不及. 水月跑了两天,亲戚朋友都转了个遍,一分钱也没借到. 水月愁得满嘴泡,没想到这天晚上,二愣竟好好地回来了.

《集体智慧编程》

- Ken - 小美的部落格
这本书不是讲 软件工程或者敏捷啥的,它是讲数据挖掘的. 书的英文名字是:《Programming Collective Intelligence》. 不知咋的中文书名就变成这个了. 豆瓣上的评论:http://book.douban.com/subject/3288908/. 简单的说,这本书是讲让web 2.0更智慧,更智能的技术.

问答之间的智慧

- - 微软亚洲研究院
编者按:既要有直接给出答案的能力,也要知道什么时候应该这样做,这是搜索引擎们下一步竞争的焦点. 一问一答之间的智慧并不仅仅是搭建一个可查询的知识库就能做到的. 科技领域的4个巨头,微软、苹果、Google和Facebook在下一代搜索这件事上撞车了. 它们都希望自己的服务能真正理解用户的搜索意图,然后尽可能地直接给出可靠答案.

营销工具的智慧

- - 月光博客
  在传统企业营销是基于传统经济学理论,既对稀缺资源的有效利用,当物质匮乏过度到丰裕经济之后,企业的营销需要重新开始,因为丰裕经济理论是建立在物质极度丰富,消费者的心理需求分散化的社会和经济环境. 在过去,人们购买产品,更多是通过询价的方式,商品信息和价格并不透明,现在,网络使得所有商品价格透明,很容易货比三家.

社交杀死大众的智慧

- hank - Solidot
大众的智慧已是老生常谈,并有实例证据支持. 但在社交环境下,大众的智慧是否真的去芜存菁. 根据《美国国家科学院院报》上发表的一项研究,苏黎世的研究人员发现,社交影响力会抹杀大众的智慧. 研究人员指出,大众的智慧是一种统计学现象. 许多人对于任意指定的一个值只有模糊的感觉,不清楚精确的值. 他们的答案会在真实值之间上下浮点,一步步调整答案,越来越接近精确值.

马悦凌:生了病的“智慧”

- ysorigin - 科学松鼠会
据说在自然界里,动物逃避捕猎者的重要策略之一就是集群活动,可以让捕猎者眼花缭乱,容易分散注意力而让猎物逃脱. 而我浏览了一下“养生教母”马悦凌的 官网之后,对于那里面的胡说八道和歪理邪说,就有种一头狮子面对一群奔涌而过的肥猪的感觉——-都是蠢到家的猎物,但多到不知道从哪只下手比较好 了,或者换个时髦的说法,叫吐槽点多到让人吐槽无力了.

日本人的智慧与诡异

- 王AQ - 阿毛博客
  下述文字是上月跟萨苏兄等人在北京公开对谈时说的,感谢优米网的视频与文字整理,专此贴出.   从我亲生经历讲比较有意思. 在日本碰到非常荒诞场面,葬礼和婚礼区别是很微妙的. 因为出席婚礼的人,他们穿黑西服挂白色领带. 唯一区别就是黑和白之间区别,在一个婚礼场上,上午办完婚礼以后,下午两点钟走. 迅速变成一个葬礼,当然是不同的家庭,来源于不同的社区.

碎片时代,智慧生存

- - 逍遥游·萧秋水
和菜头在10月18日写的《碎片化生存》,有人做成长微博,也有朋友爱特我,让我看看. 菜头说的没有错,因为,他说的是他自己的情况,事实上,他还谦虚了,因为,他其实一直没有中断过阅读和写作,他所说的碎片低能,是一种自谦,是他自己对照过去和现在,感觉阅读和写作的数量下降了,所得出的结论,他愿意暂停新浪微博,也是自己的选择,这都应该尊重.