高并发业务接口开发思路(实战)

标签： 高并发 接口 接口设计 | 发表时间：2017-05-21 12:00 | 作者：
出处：http://sflaqiu.github.io/

高并发业务除了需要有支撑高并发的服务器架构，还需要根据业务需求和架构体系，设计出合理的开发方案， 这里根据一个实践过业务场景分析开发思路，罗列出高并发接口需要注意的点，以及设计上的巧思，共勉之，望共鸣

业务场景

  • 业务：
    • 今日好货
  • 交互端：
    • IOS/Andorid
  • 需求点：（实际业务会复杂些，为了容易理解，这里简化需求点）
    • 提供最新的好货商品信息列表，支持分页
    • 需要时时获取最新的商品数据列表，以下情况商品信息会发生变化
      • 商品数据字段更新(人为编辑，热度字段更新，等)
      • 商品不定时上新，在固定时段会有大量商品更新(目前 10点/20点上新量大)
      • 商品在会在规律时间里重新排序(根据：销量，曝光量，点击量 等计算排序)
    • 商品加载过程中不能出现重复商品
    • 客户端和服务端需要考虑加载商品的交互体验
  • 终极目标：
    • 支持高并发下业务稳定

设计思路

前提：

  • 【商品服务API】：通过商品服务提供的API获取商品数据，当商品有上新、字段更新、排序有更新时，通过API都可以获取到最新的数据(db查询，支持获取未来时间里的商品数据)
  • 缓存使用 Redis

缓存更新分析：

  • 商品数据缓存到Redis：支撑高并发的查询业务，数据需要进行缓存
  • 提供商品缓存刷新接口：商品显示需要即时性，需要时时展示最新数据，当商品发生变化的时候，我们需要刷新商品缓存数据
  • 支持未来时间缓存提前更新：为了更好支撑即时性，尤其在固定时段商品的大量上新，缓存更新会比较慢，所以我们需要提前备好未来时间的缓存数据
  • 缓存刷新需要注意点：缓存更新的过程中不能出现前台无数据展示的情况
  • 商品缓存支持版本号区分：每次缓存更新都要生成一个新的数据版本号缓存Key，数据存储在对应的缓存版本Key里
  • 缓存版本Key存储到列表 ：列表可以用来筛选出当前时间可以使用的最新版本号

商品缓存更新设计：

  • 接口参数：updatetime 【更新时间】(可空)，默认等于当前时间，可以传未来时间
  • 每次刷新缓存都会生成新的数据版本号作为 【商品缓存Key名】，将数据存到版本号对应的缓存Key中，所以需要生成一个唯一字符串，这里我们把 【更新时间】的时间戳作为缓存的Key名，为何这么设计，后面会介绍到
  • 首先请求 【商品服务API】获取 【更新时间】对应的商品数据，接着对数据进行字段处理、排序，最后把最终商品数据更新到 【商品缓存Key名】的Redis SortedSet中
  • 商品缓存成功后，把 【商品缓存Key名】存到 【版本号集合】Redis SortedSet中，同时把 【更新时间】的时间戳作为排序的值
  • 【商品缓存Key名】= 【更新时间】的时间戳，这个设计的目的是可以支持未来时间版本数据的提前更新，并且可以通过SortedSet排序，过滤出当前时间最新的版本号

缓存结构图

image

今日好货API设计：

  • 接口参数：version：数据版本号(可空)，pageindex：页码
  • 响应JSON数据：Datas：商品数据集合，CurrentVersion：当前数据版本号
  • 【当前最新版本号】： 【版本号集合】通过SortedSet机制，获取当前时间能够使用的数据版本号， 如：取[当前时间戳]-[(当前时间-1h)时间戳]区间的版本号，排序后获取离当前时间最近的版本号作为最新版本号 <这里为何取区间，而不是直接取最新版本号，会有个容错处理，后面会说到>
  • 用户在浏览商品的时候客户端请求 【今日好货API】需要上传版本号和页数，如果是第一次(pageindex=1，首页)，会获取 【当前最新版本号】，然后返回最新商品数据
  • 客户端本地缓存首页数据返回的版本号，后续翻页需要客户端上报缓存的版本号，API返回版本号对应的商品分页数据，这样设计的目的是当用户继续加载后面页数数据的时候不会出现重复的数据(数据会不定时更新，避免用户加载到重复的数据，如：商品A原来是第一页数据，数据更新后变成第二页数据)
  • 当请求首页数据，客户端上报的版本号= 【当前最新版本号】，就不进行数据缓存查询，直接返回空数据（数据不变），客服端无需重新渲染商品列表，同时可以避免无限下拉刷新带来的服务器压力
  • 如果version参数没有上传，获取 【当前最新版本号】和当前最新数据返回，数据版本号参数有上传，就获取对应版本号的分页数据

其他注意点：

  • 版本号无限累加
    • 【版本号集合】随着时间增长，版本号数据会不断累加，需要在每次更新的时候删除掉最近一天的版本，操作 SortedSet 过滤掉比(当前时间-1天)的时间戳小的版本号
  • 容错处理
    • 获取 【当前最新版本号】的时候，操作 【版本号集合】集合，获取最近一个小时的，即操作SortedSet[当前时间戳]至[(当前时间-1h)时间戳]范围内的版本号，然后从大到小排序版本号，过滤出版本号，并且有版本号相对于的商品数据，如果不存在商品数据，就往下遍历，直到有符合规则的版本号返回

双11模式：

  • 一级缓存
    • 将商品数据短暂的缓存到站点服务区Cache中

降级方案：

  • 资源监控，自动降级
  • 开启降级方案后，客服端会从cdn中拉取商品数据
  • 商品分页数据生成JSON数据文件存储到cdn中

架构图

image

总结

  • 以上举例的高并发接口设计的实践方案，有些设计可能比较针对此业务场景，但是思路是有共性的，重点在于理解设计上的思路
  • 高并发接口的开发需要考虑因素:
    • 接口性能
    • 接口的稳定
    • 容错机制
    • 服务端压力：竟可能减少服务端压力，可以与客户端交互配合
    • 服务降级：资源高压力的情况下进行降级

相关 [并发 业务 接口] 推荐：

高并发业务接口开发思路(实战)

- - SFLYQ
高并发业务除了需要有支撑高并发的服务器架构，还需要根据业务需求和架构体系，设计出合理的开发方案， 这里根据一个实践过业务场景分析开发思路，罗列出高并发接口需要注意的点，以及设计上的巧思，共勉之，望共鸣. 需求点：（实际业务会复杂些，为了容易理解，这里简化需求点）. 提供最新的好货商品信息列表，支持分页.

高并发下如何保证接口的幂等性？

- -
接口幂等性问题，对于开发人员来说，是一个跟语言无关的公共问题. 本文分享了一些解决这类问题非常实用的办法，绝大部分内容我在项目中实践过的，给有需要的小伙伴一个参考. 不知道你有没有遇到过这些场景：. form表单时，保存按钮不小心快速点了两次，表中竟然产生了两条重复的数据，只是id不一样. 接口超时问题，通常会引入了.

iOS 免费接口

- - ITeye博客
京东获取单个商品价格接口:. http://p.3.cn/prices/mgets?skuIds=J_商品ID&type=1. ps:商品ID这么获取:http://item.jd.com/954086.html. http://www.kuaidi100.com/query?type=快递公司代号&postid=快递单号.

雷电接口（Thunderbolt）问答

- Richard - Apple4.us
这次的 MacBook Pro 更新带来了一种新的接口 Thunderbolt（雷电），不但速度比火线 800 和 eSATA 都快得多，更可同时担当数据、视频、音频传输之重任. 这里是 Dan Frakes 和 Dan Moren 为 Macworld.com 写的雷电基础指南，译出供大家参考. 雷电（旧称「光峰」Light Peak）是 Intel 与苹果合作研发的一种新的外设接口技术，它能把数据、视频、音频和电力的传输集合到一个单独的接口上.

移动平均 - IGod接口

- - 博客园_1 + 1 = The World
示例——移动平均在股票分析. 最近大 BOSS“迷上”了一个网络游戏（什么游戏就不多说啦～），让我写个程序帮他算一下（现在他让另一个同事写了，我要改 bug 没时间，所以，我主要是没事时“凑热闹”提点想法）. 期间，发现这个游戏一定是基于某个数学模型，试了很多方法，比如，文本相似度，曲线相似度等等，都不能很好的预测，最后，采用移动平均以及变体，就靠谱多了～本文主要回忆一下移动平均相关的问题.

Android异步接口测试

- - 百度质量部 | 软件测试 | 测试技术 | 百度测试
    基于Android的C/S移动应用中访问后端数据的场景是非常多的，异步接口测试主要是在单元测试完成的基础上检查接口级访问是否正确，主要保证对外请求的组装与发送是否符合后端的约定. 现在项目的异步接口访问都遵循一个特定的访问模式：前台的Activity获取到触发事件后将接受到的参数传给一个异步任务，这些任务大都是AsyncTask的实现——即启动一个新的线程访问后台接口数据，完毕后调用回调函数更新UI展示，示意图如下：.

各个IP API接口

- - 谁主沉浮
腾讯的IP地址API接口地址： http://fw.qq.com/ipaddress. 返回的是数据格式为：var IPData = new Array(“114.218.183.139″,””,”江苏省”,”苏州市”);. .

Spring中Aware相关接口

- - 企业架构 - ITeye博客
加载Spring配置文件时，如果Spring配置文件中所定义的Bean类实现了ApplicationContextAware 接口，那么在加载Spring配置文件时，会自动调用ApplicationContextAware 接口中的. 方法，获得ApplicationContext对象. 前提必须在Spring配置文件中指定该类.

Sina股票数据接口

- - 互联网 - ITeye博客
以大秦铁路（股票代码：601006）为例，如果要获取它的最新行情，只需访问新浪的股票数据. 接口：http://hq.sinajs.cn/list=sh601006这个url会返回一串文本，例如：. var hq_str_sh601006="大秦铁路, 27.55, 27.25, 26.91, 27.55, 26.20, 26.91, 26.92,.

API 接口设计规范

- - 掘金后端
这篇文章分享 API 接口设计规范，目的是提供给研发人员做参考. 规范是死的，人是活的，希望自己定的规范，不要被打脸. url?后面的参数，存放请求接口的参数数据. 请求头，存放公共参数、requestId、token、加密字段等. Body 体，存放请求接口的参数数据. 调用方需向服务方申请 appKey（请求时使用） 和 secretKey（加密时使用）.