阿里的大数据之路

标签: 互联网 电商 大数据 淘宝 阿里巴巴 | 发表时间:2013-01-13 21:17 | 作者:其他
出处:http://www.tmtpost.com
作为一个拥有全世界最多互联网用户的国家,”大数据“成为国内各大互联网巨头不得不面对的问题。阿里巴巴集团旗下的支付宝、淘宝及天猫商城作为国内第一大电商,所拥有的交易及信用数据,不仅仅具有量的优势,还具有极高的商业价值。在大数据时代,阿里巴巴的战略布局是怎么样的?《南方周末:阿里巴巴的大数据梦》对阿里巴巴的大数据战略进行了报道,钛媒体对其总结如下:
随着用各类数据的积累,大型互联网公司所积累的用户数据已经达到了相当的水平。 但大数据人才奇缺,很难找到真正“数据科学家”。
以前的数据研究思路是从产品出发,大数据时代是从人出发,先去找人。通过数据分析把平台上的人和其喜好等进行归类和定位。
支付宝发展大数据的目的,跟淘宝和天猫有点偏差。支付宝发展大数据业务更多地是为内部服务,淘宝和天猫更多地强调商业化。
2010年淘宝宣布将面向全球首度开放数据,并制定了两条大原则:数据分层次开放;涉及消费者个人或者企业隐私的数据绝对保护。之后推出了“数据魔方”和量子恒道等产品。
2011年淘宝分拆后,淘宝系的大数据发展的主要任务放到了商家已经形成了付费习惯的天猫平台。 目前天猫的主打大数据商用产品是聚石塔,聚石塔是阿里巴巴首次联合全集团大数据力量打造的一款大数据商用产品。围绕着聚石塔还催生了像又一城这样提供三方应用开发的公司。
聚石塔可以帮助日单量比较大的客户更有效的处理订单数据,但除了提升订单处理效率以外,商家表示聚石塔对提高销量并没有太大帮助。也有商家表示是被迫参与到大数据产品的购买中来。因为聚石保证商家在像双11这样的大型活动中的效率,同时减少出错率,而参加活动是保证流量的不二选择。
钛媒体分析: 阿里的商业化大数据服务,目前还是主要集中在对商户提供IT基础设施和数据共享层面。阿里通过整合万网的IDC服务,为商户提供动态计算资源,助力或者说是迫使企业IT化;另一方面通过数据内部共享,提高了万网基础服务的销售。从市场方向看是非常成功的。但其对商户销售额提升作用乏善可陈,从这个角度来说聚石塔并没有达到大数据应该发挥的作用。
以下是原文:

“为了迎接即将到来的大数据时代,各大互联网公司都在争分夺秒。阿里巴巴在公布大数据分享平台之后的半年中,也全面启动了攻势。但即使是这个行业的先行者,离大数据时代也还有不小的距离。”

刚刚过去的2012年,秦予有个很大的遗憾,就是没能招聘到自己想要的数据科学家,浪费了公司给的招人名额。他是支付宝用户价值创新中心的负责人。这个中心是支付宝大数据业务的核心部门。阿里巴巴2012年的进人指标只有200个,具体到支付宝公司,基本是只出不进,只有秦予所在的部门得到了难得的两个进人名额。但她只招到了一个合适的。

事实上,各大互联网公司都在寻找这样的人。腾讯网络媒体事业群总裁刘胜义2012年年中就公开表示:随着用户各类数据的累积,大数据时代已经来临。腾讯各大产品线中都拥有自己的数据挖掘团队。而腾讯最新财报显示,QQ用户数接近8亿人,活跃用户数近2亿人。

阿里集团2012年7月10日就已宣布,设立首席数据官岗位(CDO),负责推进“数据分享平台”战略。同日,阿里发布“聚石塔”平台,为天猫、淘宝平台上的电商及电商服务商等提供数据云服务。

阿里巴巴集团表示,如何挖掘、分析和运用这些数据,并和全社会分享,是这个战略的核心所在。阿里巴巴是年交易额过万亿元的中国最大的电子商务平台,目前有两万人左右,其中近千人从事数据业务工作。

可以看到,从数据中掘金,已经成为各大互联网公司的共识。但在这个即将到来的大数据时代,这些公司具体将如何推进呢?

“离大数据时代还有不小距离”

秦予要找的并不是一般的数据分析师。

“国内不缺数据挖掘人才,但很难找到数据科学家。”秦予对南方周末记者说,秦予的团队有7个人,他们在支付宝内部被称为“数据科学家”。

一般的数据分析师是根据支付宝的各种数据进行分析,给公司决策层和各个业务部门提供咨询支持。这也是目前很多公司都设有的商业智能部的主要职能。但数据科学家们做的事情是开发出具体可以销售的商用化的大数据产品。

所谓大数据,一般是1000T以上的数据,如果按照一般机器配置,相当于400台到500台电脑。对这些数据信息的商业化开发就是大数据产业链。

《大数据时代》一书中提到,未来,数据将会像土地、石油和资本一样,成为经济运行中的根本性资源。数据科学家被认为是下一个十年最热门的职业。

而大数据跟个人最为密切的关系是对隐私的可能侵入。比如,亚马逊监视着我们的购物习惯,谷歌监视着我们的网页浏览习惯,微博似乎对我们和我们朋友的关系无所不知,QQ圈子能给你推荐你不愿意再见面的某个女生的照片和动态信息。
秦予是从美国归国的计算机模拟博士后,在摩根大通和汇丰银行工作过多年,2010年加入支付宝公司,负责支付宝和淘宝集市的大数据业务。支付宝公司拥有中国仅次于银行业的个人数据信息。

“阿里巴巴有海量的数据,对于做大数据的人来说,阿里巴巴是中国最好的平台,很吸引人。因为我的金融背景所以选择支付宝。”秦予对南方周末记者说。

回国进入大数据行业之后,秦予参加了很多大数据的论坛和研讨会,她最大的体会是,看到的新东西很少。

“别说大数据,连小数据都很少。现在很多公司说的大数据,大都是数据的搜集和整理。这是底层的工作。”秦予说,“中国离大数据时代还有不小距离。”

即使是作为国内大数据业务的先行者阿里巴巴,其大数据业务发展也依然是分散在各个子公司,并在2012年下半年才开始推出少量的商用产品。

“从人出发,先去找人”

支付宝曾经在八年前公司成立第二天就建立了数据部门,但真正有大数据业务,是在2010年的事情。正是那时候,支付宝从招商银行信用卡中心招来一批专业的金融人才。秦予也是那时候加入支付宝的。

“金融行业的大数据业务已经很成熟了。”秦予说。

支付宝的数据科学家每天做的工作就是,把客户分成50个族群进行研究。比如,细分出都市轻熟男群体,这个群体的特征是每次买的不贵,均价七八十元,收入中等,但很喜欢在网上买东西。还有一个族群被称作“千金美少女”,其特征是收入并不高,但家里有钱,买得多,买得贵。

按照分群研究的思路,秦予的团队把淘宝、天猫、支付宝和聚划算的用户做系统研究,通过观察他们喜欢看什么媒体,上什么网,来“生动地”知道用户是个怎样的人,进而推荐商品供用户购买。

能识别用户之后,在写商品推荐文字的时候,不再是过去那样千篇一律地使用“亲”作为开头。

“今天很多网站犯的错误就是,根据个人购买记录,推荐一个类似的产品。其实用户很可能买过了。用户要的是你给他推荐一个跟他相似的人买的东西。”秦予对南方周末记者说,以前的数据研究思路是从产品出发,大数据时代是从人出发,先去找人。

支付宝发展大数据业务,目前主要是为内部服务。比如,过去支付宝很重视新客户的获取,但后来发现开账户的人多,关账户的人也不少,通过数据分析,支付宝建立了一个流失预警模型,预测每一个人未来三个月是否会离开支付宝,并对潜在的流失用户做一些唤醒。

“支付宝是准金融行业,数据比较敏感,涉及用户隐私,还没有到开放的阶段。”秦予对南方周末记者说,支付宝非常忌讳提供商用化产品给商户,很多合作方惦记着的是支付宝的数据,但这是支付宝的高压线。 “支付宝发展大数据的目的,跟淘宝和天猫有点偏差。我们更多地是为内部服务,淘宝和天猫更多地强调商业化。”秦予对南方周末记者说,阿里巴巴集团的大数据业务商用主要是淘宝平台的几个公司在推进。

“数据分享平台”战略

淘宝平台的数据大概可以分成三块,一是离线的数据,比如什么地方的人最爱吃大闸蟹。另外一些在线数据,主要是图片,淘宝一些大的卖家都把图片存在淘宝里面。还有一些信息是用户的淘宝收藏夹。

2010年3月,淘宝宣布将面向全球首度开放数据,并制定了两条大原则:数据分层次开放;涉及消费者个人或者企业隐私的数据绝对保护。

淘宝的数据开放一是对公众的免费信息,比如推出类似于宏观经济数据的“淘宝指数”。商家可以根据以往的销售信息和“淘宝指数”进行生产、库存决策。对于大众来说,淘宝的数据发布就像是统计局和价格监测机构的功能,淘宝指数相当于行业和宏观经济的各项指标。

作为针对企业的数据开放的商用产品,淘宝推出了数据魔方产品,通过淘宝数据魔方平台,商家可以直接通过数据魔方产品获取行业宏观情况、自己品牌的市场状况、消费者行为情况等,但是不能获得竞争对手的数据。

2011年4月,数据魔方正式上线。在“店小二”的推广下,林氏木业成为第一批使用者。林氏木业是一家完全依靠互联网平台销售家具的电商公司。该公司一位市场推广人员对南方周末记者介绍了数据魔方的具体运用过程:依据数据魔方关于热词的各项数据变化,及时调整优化商品标题,提高宝贝排名,进而获取更多流量,提高销量。

以销售面膜为主的素野天猫旗舰店的运营经理陈林告诉南方周末记者,素野选择数据魔方专业版本,支付3600元/年的费用,除魔方外,还可以使用量子恒道(淘宝官方推出的一款免费数据分析工具)。

“数据魔方带来的更多是虚的概念,对流量、销售额这种具体指标意义不大。”陈林说。

2011年6月,淘宝一分为三,变成天猫、淘宝集市和一淘网。这之后,淘宝系的大数据发展的主要任务放到了商家已经形成了付费习惯的天猫平台。目前天猫的主打大数据商用产品是聚石塔。

2012年7月,阿里巴巴集团的“聚石塔”正式发布,“数据分享平台”战略全面展开。聚石塔是阿里巴巴首次联合全集团大数据力量打造的一款大数据商用产品。其中,天猫及淘宝网主要负责寻找合作伙伴,发展商家,阿里云负责提供云主机,万网负责客户服务。

同时,阿里巴巴B2B公司CEO陆兆禧出任集团首席数据官岗位,向CEO马云直接汇报。马云在聚石塔发布的时候宣布了阿里集团未来新战略:平台、金融、数据。 聚石塔提供数据存储、数据计算两类服务。根据官网上的指导价格,若需要内存为1200M、50G容量的数据存储服务,优惠价为6090元/年;如果购买英特尔双核处理器、内存4G、硬盘500G、带宽5M的弹性托管服务,价格约在7700元/年。

广州衣酷服饰有限公司的运营总监敬小虎对南方周末记者表示,他们公司是2012年9月开始使用聚石塔服务的,正好赶上“双十一”大促销,两天之内发完了所有的货,总共3万多票。他负责该公司在天猫上的店铺皓盾天猫旗舰店的运营。
“没有这个软件,半个月都发不完这些货。”敬小虎对南方周末记者说,如果按照2011年没有加入聚石塔时候的“双十一”销售情况,光把订单人工下载下来就花费了三五天时间。而且还出现过很多漏单和重复下载问题。

不过,敬小虎表示,如果店铺一天的销量能做到500票以上,购买聚石塔服务比较划算,否则软件买下来除了应对“双十一”这样的大促销,基本就闲置着。

平台后的产业链

阿里巴巴公布的信息显示,自2012年7月10日聚石塔发布以来,已有十多万的商家入驻。聚石塔的订单覆盖率,10月中旬的数字是20%。

2012年“双十一”购物狂欢节,是对天猫大数据发展的一次检验。据天猫官方数据显示,狂欢节大促当天,聚石塔内系统处理的订单超过天猫总量的20%,比平时增长20倍。

又一城公司是首批进入聚石塔服务器项目的软件IT企业。又一城公司的销售人员赖活龙对南方周末记者表示,有ERP系统的商家可以直接找天猫,没有ERP系统的商家,只能找像又一城这样跟天猫有合作的软件商,让软件商帮忙接入聚石塔服务。又一城和阿里巴巴的合作模式是,又一城基于聚石塔开发的软件,对接淘宝和天猫等阿里系公司的后台系统,包括订单信息、商品信息、会员信息、财务信息、物流信息和库存信息。

赖活龙对南方周末记者透露,最近半年,他的重点一直是推销聚石塔产品,一开始很多商家听到是推销软件产品的电话就会按掉电话,现在的情况好多了,不少商家主动打电话来了解情况。

“这跟天猫的宣传很有关系,另外就是双十一检验了产品的价值。”赖活龙说。

赖活龙也承认,商家加入聚石塔之后,最直观的改变是订单处理的效率提高了,以前从淘宝平台下载订单,一分钟能下载200单,现在至少2000单。但销售额并没有太大改变。

越来越多的商家被迫参与到大数据产品的购买中来。

因为促销活动越来越多,参加的话,IT系统往往跟不上,造成错单配送等问题,中差评接踵而至,动态评分直线下降,销量跟着下降,所以只能是购买聚石塔服务。不参加的话,没有流量,没有销售额。

“如果商家不跟着淘宝走,就会受到冷落,你进来了,碰到双十一这样的活动,天猫会看你是否加入了聚石塔,如果没有加入,你报名的资质能否通过是个大问题。”赖活龙说。

文/ 南方周末记者谢鹏 实习生 庞航宇

相关 [阿里 大数据] 推荐:

阿里的大数据之路

- - 钛媒体TMTpost—把脉科技资本论
作为一个拥有全世界最多互联网用户的国家,”大数据“成为国内各大互联网巨头不得不面对的问题. 阿里巴巴集团旗下的支付宝、淘宝及天猫商城作为国内第一大电商,所拥有的交易及信用数据,不仅仅具有量的优势,还具有极高的商业价值. 在大数据时代,阿里巴巴的战略布局是怎么样的. 《南方周末:阿里巴巴的大数据梦》对阿里巴巴的大数据战略进行了报道,钛媒体对其总结如下:.

大数据时代来临,首次披露阿里巴巴的“数据闭环”

- - 36氪 | 关注互联网创业
编者按:本文作者Sean,支付行业人,微博ID@ 打扰先生. Sean未来也会就互联网金融话题给我们写专栏. 今日关于“大数据”的讨论达到了一个高峰,数据就是未来已经不置可否地成为了互联网企业的未来新战略发展的中心. 什么是大数据,大数据是如何产生价值的,大数据是无所不能的吗,应用边界在哪里. 这些问题,似乎人人都有一个模糊的概念,但始终没有一个统一的答案.

四大模块,带你了解阿里大数据产品技术架构

- - 人人都是产品经理
本文笔者将从数据采集层、数据计算层、数据服务层、数据应用层四大层次来带大家了解阿里大数据的产品技术架构. 2014年,马云提出:“人类正从IT时代走向DT时代”. 如果说在IT时代是以自我控制、自我管理为主,那么到了DT (Data Technology)时代,则是以服务大众、激发生产力为主. 以互联网(或者物联网)、云计算、大数据和人工智能为代表的新技术革命正在渗透至各行各业,悄悄地改变着我们的生活.

阿里如何实现秒级百万TPS?搜索离线大数据平台架构解读

- -
阿里妹导读:搜索离线数据处理是一个典型的海量数据批次/实时计算结合的场景,阿里搜索中台团队立足内部技术结合开源大数据存储和计算系统,针对自身业务和技术特点构建了搜索离线平台,提供复杂业务场景下单日批次处理千亿级数据,秒级实时百万TPS吞吐的计算能力. 一个典型的商品搜索架构如下图所示,本文将要重点介绍的就是下图中的离线数据处理系统(Offline System).

谈大数据(2)

- - 人月神话的BLOG
对于大数据,后面会作为一个系列来谈,大数据涉及的方面特别多,包括主数据,数据中心和ODS,SOA,云计算,业务BI等很多方面的内容. 前面看到一个提法,即大数据会让我们更加关注业务方面的内容,而云平台则更多是技术层面的内容. 对于大数据会先把各个理解的关键点谈完了,再系统来看大数据的完整解决方案和体系化.

大数据之惑

- - 互联网分析
算起来,接触大数据、和互联网之外的客户谈大数据也有快2年了. 也该是时候整理下一些感受,和大家分享下我看到的国内大数据应用的一些困惑了. 云和大数据,应该是近几年IT炒的最热的两个话题了. 在我看来,这两者之间的不同就是: 云是做新的瓶,装旧的酒; 大数据是找合适的瓶,酿新的酒. 云说到底是一种基础架构的革命.

白话大数据

- - 互联网分析
这个时代,你在外面混,无论是技术还是产品还是运营还是商务,如果嘴里说不出“大数据”“云存储”“云计算”,真不好意思在同行面前抬头. 是千万级别的用户信息还是动辄XXXTB的数据量. 其实,大数据在我的眼里,不是一门技术,而是一种技能,从数据中去发现价值挖掘价值的技能. ”当我掷地有声用这句话开场时,正好一个妹子推门而入,听到这句话,微微一怔,低头坐下.

交通大数据

- - 人月神话的BLOG
本文简单谈下智慧交通场景下可能出现的大数据需求和具体应用价值. 对于公交线路规划和设计是一个大数据潜在的应用场景,传统的公交线路规划往往需要在前期投入大量的人力进行OD调查和数据收集. 特别是在公交卡普及后可以看到,对于OD流量数据完全可以从公交一卡通中采集到相关的交通流量和流向数据,包括同一张卡每天的行走路线和换乘次数等详细信息.

全球10大数据库

- - 译言-电脑/网络/数码科技
原文: Fiorenttini   译者: julie20098. [非商业性转载必须注明译者julie20098和相关链接. ,否则视为侵权,追究转载责任. 世界气候数据中心:气候全球数据中心, 220TB 的网络数据, 6PB 的其它数据. 国家能源研究科学计算中心,有 2.8PB 容量.

谈大数据分析

- - 人月神话的BLOG
对于数据分析层,我们可以看到,其核心重点是针对海量数据形成一个分布式可弹性伸缩的,高查询性能的,支持标准sql语法的一个ODS库. 我们看到对于Hive,impala,InfoBright更多的都是解决这个层面的问题,即解决数据采集问题,解决采集后数据行列混合存储和压缩的问题,然后形成一个支撑标准sql预防的数据分析库.