毫秒级从百亿大表任意维度筛选数据是怎么做到的?

标签: dev | 发表时间:2018-11-28 00:00 | 作者:
出处:http://itindex.net/relian

1

业务背景

随着闲鱼业务的发展,用户规模达到数亿级,用户维度的数据指标,达到上百个之多。如何从亿级别的数据中,快速筛选出符合期望的用户人群,进行精细化人群运营,是技术需要解决的问题。业界的很多方案往往需要分钟级甚至小时级才能生成查询结果。本文提供了一种解决大数据场景下的高效数据筛选、统计和分析方法,从亿级别数据中,任意组合查询条件,筛选需要的数据,做到毫秒级返回。

2

技术选型分析

从技术角度分析,我们这个业务场景有如下特点:

  • 需要支持任意维度的组合(and/or)嵌套查询,且要求低延迟;

  • 数据规模大,至少亿级别,且需要支持不断扩展;

  • 单条数据指标维度多,至少上百,且需要支持不断增加; 综合分析,这是一个典型的OLAP场景。

OLTP与OLAP

下面简单对比下OLTP和OLAP:

  • 数据量瓶颈:mysql比较适合的数据量级是百万级,再多的话,查询和写入性能会明显下降。因此,一般会采用分库分表的方式,把数据规模控制在百万级。

  • 查询效率瓶颈:mysql对于常用的条件查询,需要单独建立索引或组合索引。非索引字段的查询需要扫描全表,性能下降明显。

综上分析,我们的应用场景,并不适合采用行存储数据库,因此我们重点考虑列存数据库。

行式存储与列式存储

下面简单对比一下行式存储与列式存储的特点:

HybridDB for MySQL计算规格介绍

HybridDB for MySQL计算规格对我们的这个场景而言,核心能力主要有:

  • 任意维度智能组合索引(使用方无需单独自建索引)

  • 百亿大表查询毫秒级响应

  • MySql BI生态兼容,完备SQL支持

  • 空间检索、全文检索、复杂数据类型(多值列、JSON)支持

那么,HybridDB for MySQL计算规格是如何做到大数据场景下的任意维度组合查询的毫秒级响应的呢?

  • 首先是HybridDB的高性能列式存储引擎,内置于存储的谓词计算能力,可以利用各种统计信息快速跳过数据块实现快速筛选;

  • 第二是HybridDB的智能索引技术,在大宽表上一键自动全索引并根据列索引智能组合出各种谓词条件进行过滤;

  • 第三是高性能MPP+DAG的融合计算引擎,兼顾高并发和高吞吐两种模式实现了基于pipeline的高性能向量计算,并且计算引擎和存储紧密配合,让计算更快;

  • 第四是HybridDB支持各种数据建模技术例如星型模型、雪花模型、聚集排序等,业务适度数据建模可以实现更好的性能指标。

综合来说,HybridDB for MySQL计算规格是以SQL为中心的多功能在线实时仓库系统,很适合我们的业务场景,因此我们在此之上构建了我们的人群圈选底层引擎。

3

业务落地

在搭建了人群圈选引擎之后,我们重点改造了我们的消息推送系统,作为人群精细化运营的一个重要落地点。

闲鱼消息推送简介

消息推送(PUSH)是信息触达用户最快捷的手段。闲鱼比较常用的PUSH方式,是先离线计算好PUSH人群、准备好对应PUSH文案,然后在第二天指定的时间推送。一般都是周期性的PUSH任务。但是临时性的、需要立刻发送、紧急的PUSH任务,就需要BI同学介入,每个PUSH任务平均约需要占用BI同学半天的开发时间,且操作上也比较麻烦。本次我们把人群圈选系统与原有的PUSH系统打通,极大地改善了此类PUSH的准备数据以及发送的效率,解放了开发资源。

系统架构

离线数据层:用户维度数据,分散在各个业务系统的离线表中。我们通过离线T+1定时任务,把数据汇总导入到实时计算层的用户大宽表中。

实时计算层:根据人群的筛选条件,从用户大宽表中,查询符合的用户数量和用户ID列表,为应用系统提供服务。

人群圈选前台系统:提供可视化的操作界面。运营同学选择筛选条件,保存为人群,用于分析或者发送PUSH。每一个人群,对应一个SQL存储。类似于: select count(*) from userbigtable where column1> 1 and column2 in ('a','b') and ( column31=1 or column32=2) 同时,SQL可以支持任意字段的多层and/or嵌套组合。 用SQL保存人群的方式,当用户表中的数据变更时,可以随时执行SQL,获取最新的人群用户,来更新人群。

闲鱼PUSH系统:从人群圈选前台系统中获取人群对应的where条件,再从实时计算层,分页获取用户列表,给用户发送PUSH。在实现过程中,我们重点解决了分页查询的性能问题。

分页查询性能优化方案: 在分页时,当人群的规模很大(千万级别)时,页码越往后,查询的性能会有明显下降。因此,我们采用把人群数据增加行号、导出到MySql的方式,来提升性能。表结构如下:

  • 批次号:人群每导出一次,就新加一个批次号,批次号为时间戳,递增。

  • 行号:从1开始递增,每一个批次号对应的行号都是从1到N。

我们为"人群ID"+"批次号"+"行号"建组合索引,分页查询时,用索引查询的方式替换分页的方式,从而保证大页码时的查询效率。

另外,为此额外付出的导出数据的开销,得益于HybridDB强大的数据导出能力,数据量在万级别至百万级别,耗时在秒级至几十秒级别。综合权衡之后,采用了本方案。

4

PUSH系统改造收益

人群圈选系统为闲鱼精细化用户运营提供了强有力的底层能力支撑。同时,圈选人群,也可以应用到其他的业务场景,比如首页焦点图定投等需要分层用户运营的场景,为闲鱼业务提供了很大的优化空间。

本文实现了海量多维度数据中组合查询的秒级返回结果,是一种OLAP场景下的通用技术实现方案。同时介绍了用该技术方案改造原有业务系统的一个应用案例,取得了很好的业务结果,可供类似需求或场景的参考。

5

后续计划

人群圈选引擎中的用户数据,我们目前是T+1导入的。这是考虑到人群相关的指标,变化频率不是很快,且很多指标(比如用户标签)都是离线T+1计算的,因此T+1的数据更新频度是可以接受的。后续我们又基于HybridDB构建了更为强大的商品圈选引擎。闲鱼商品数据相比用户数据,变化更快。一方面用户随时会更新自己的商品,另一方面,由于闲鱼商品单库存(售出即下架)的特性,以及其他原因,商品状态会随时变更。因此我们的选品引擎,应该尽快感知到这些数据的变化,并在投放层面做出实时调整。我们基于HybridDB(存储)和实时计算引擎,构建了更为强大的“马赫”实时选品系统。已推出“ 马赫”的系列文章,有兴趣的同学可以关注。另外如果对本文中的具体技术实现(细节)有任何问题,请联系我们。谢谢。

参考资料: HybridDB for MySQL介绍: https://www.aliyun.com/product/petadata



▼往期精彩回顾▼ Qcon2018·Flutter&Dart三端一体化开发

GDD2018·TensorFlow应用“UI 2 Code"

千人千面线上问题回放技术揭秘

2018双11·尖货优品实时选——“马赫”


关注二维码,前瞻技术尽在掌握

相关 [毫秒 百亿 大表] 推荐:

毫秒级从百亿大表任意维度筛选数据是怎么做到的?

- - IT瘾-dev
业务背景 随着闲鱼业务的发展,用户规模达到数亿级,用户维度的数据指标,达到上百个之多. 如何从亿级别的数据中,快速筛选出符合期望的用户人群,进行精细化人群运营,是技术需要解决的问题. 业界的很多方案往往需要分钟级甚至小时级才能生成查询结果. 本文提供了一种解决大数据场景下的高效数据筛选、统计和分析方法,从亿级别数据中,任意组合查询条件,筛选需要的数据,做到毫秒级返回.

3亿美元海底光缆节省6毫秒

- 微笑!?~ - Solidot
对高频金融交易而言,毫秒事关重大. 为了节省6毫秒的交易时间,大西洋10年来首次铺设新海底光缆. 上一波海底光缆铺设热潮还是90年代末的.COM泡沫期间. 新的海底光缆将耗资超过3亿美元,长6,021公里,运营商Hibernia Atlantic明确表示它针对的是高频交易的金融企业,原有的光缆从伦敦传输到纽约需要费时65毫秒,新的光缆将传输的时间节省6毫秒.

低延迟网络将伦敦-香港交易时间缩短20毫秒

- xing - cnBeta.COM
从英国伦敦到中国香港的低延迟网络将能帮助交易员缩短金融交易时间. 英国公司BSO Network Solutions称,原先通信网络的很大一部分要经过俄罗斯和中国,这两个国家的光缆,要么只被用于互联网项目,要么因为历史或安全原因是受保护的. 新的低延迟网络,用跨蒙古路线代替了跨西伯利亚路线(部署光缆较难).

世界人口下月将达70亿 2100年过百亿

- HRS - cnBeta.COM
据联合国网站消息,到今年10月,世界人口将迎来一个新的里程碑,达到70亿. 据称,世界人口将在2050年达到93亿,在2100年达到101亿. 据联合国人口司预测,世界人口将在2050年达到93亿,在2100年达到101亿. 其中,以非洲国家为主的高生育率国家人口数量将在现有基础上翻三倍,而一些低生育率国家的人口数量将呈现先升后降的趋势;人们的平均寿命将增至81岁,大部分国家的老龄人口比例都会有所上升.

融资10亿估值百亿,芒果TV值这个价吗?

- - 人人都是产品经理
yunyi导读:芒果TV被推倒业界的舆论浪潮,除了要把自己的“本分”做得更好以外,还要更加做好自己与其他竞争对手的“差异化”. 反正,估值百亿是好事,成为视频圈新的强有力的竞争者也是好事,除了要记得不忘初衷,还要紧贴着市场和用户,才能方得始终~. 比如去年芒果TV的CEO张若波谈到的融资——不过投资方不是外界猜测的BAT.

MySQL 大表优化方案

- - 文章 – 伯乐在线
当MySQL单表记录数过大时,增删改查性能都会急剧下降,可以参考以下步骤来优化:. 除非单表数据未来会一直不断上涨,否则不要一开始就考虑拆分,拆分会带来逻辑、部署、运维的各种复杂度,一般以整型值为主的表在 千万级以下,字符串为主的表在 五百万以下是没有太大问题的. 而事实上很多时候MySQL单表的性能依然有不少优化空间,甚至能正常支撑千万级以上的数据量:.

现金储备过百亿的八大科技企业:苹果居首

- whitewolf - cnBeta.COM
美国科技博客BusinessInsider今天列出了现金储备超过100亿美元的八大科技企业,苹果以762亿美元位居首位. 以下为文章概要:风险投资家和天使投资人都在将资金投向年轻的热门创业企业,而IPO市场也在迅速好转. 但老牌科技企业却略显保守,这些公司在不停地积累着现金,但估值水平却都很低.

永辉超市:百亿级企业年均近50%增长的秘密

- 罗智中 - 穿过记忆的河流
            永辉超市:百亿级企业年均近50%增长的秘密. 2011年10月09日来源:21世纪经济报道 作者:潘沩.     10月6日中午12点,福州市鼓楼区的永辉超市(601933,股吧)屏西店. 除了门前有一条极窄的河,当地人谓之“风水好”、聚财,这家超市的外观和其他超市并无不同.

iPad商标权案升级:苹果或遭工商逾百亿罚单

- - cnBeta.COM
如果不是与苹果有关,一个简单的商标权侵权案件很难会引起全国的关注. 就在苹果iPad商标权案在深圳中级人民法院败诉之后,全国多个省、地级的工商部门正在行动起来,准备针对苹果的“商标侵权”行为给予行政处罚. 据《中国经营报》记者了解,一张由北京市工商行政管理局西城分局开出的罚单即高达2.4亿元人民币(目前未进入执行程序).