Hystrix使用入门手册(中文) - 简书

标签: | 发表时间:2018-03-01 10:35 | 作者:
出处:https://www.jianshu.com

导语:网上资料(尤其中文文档)对hystrix基础功能的解释比较笼统,看了往往一头雾水。为此,本文将通过若干demo,加入对 官网How-it-Works的理解和翻译,力求更清晰解释hystrix的基础功能。所用demo均对 官网How-To-Use进行了二次修改,见 https://github.com/star2478/java-hystrix

Hystrix是Netflix开源的一款容错系统,能帮助使用者码出具备强大的容错能力和鲁棒性的程序。如果某程序或class要使用Hystrix,只需简单继承 HystrixCommand/HystrixObservableCommand并重写 run()/construct(),然后调用程序实例化此class并执行 execute()/queue()/observe()/toObservable()

      // HelloWorldHystrixCommand要使用Hystrix功能 
public class HelloWorldHystrixCommand extends HystrixCommand {  
    private final String name; 
    public HelloWorldHystrixCommand(String name) {   
        super(HystrixCommandGroupKey.Factory.asKey("ExampleGroup"));     
        this.name = name; 
    } 
    // 如果继承的是HystrixObservableCommand,要重写Observable construct() 
    @Override 
    protected String run() {     
        return "Hello " + name; 
    } 
}
      /* 调用程序对HelloWorldHystrixCommand实例化,执行execute()即触发HelloWorldHystrixCommand.run()的执行 */ 
String result = new HelloWorldHystrixCommand("HLX").execute();
System.out.println(result);  // 打印出Hello HLX

pom.xml加上以下依赖。spring cloud也集成了hystrix,不过本文只介绍原生hystrix。

      <dependency>
  <groupId>com.netflix.hystrix</groupId>
  <artifactId>hystrix-core</artifactId>
  <version>1.5.8</version>
</dependency>

本文重点介绍的是Hystrix各项基础能力的用法及其效果,不从零介绍hystrix,要了解基础知识推荐 官网wiki民间blog

1、HystrixCommand vs HystrixObservableCommand

要想使用hystrix,只需要继承 HystrixCommandHystrixObservableCommand,简单用法见上面例子。两者主要区别是:

  • 前者的命令逻辑写在 run();后者的命令逻辑写在 construct()

  • 前者的 run()是由新创建的线程执行;后者的 construct()是由调用程序线程执行

  • 前者一个实例只能向调用程序发送(emit)单条数据,比如上面例子中 run()只能返回一个String结果;后者一个实例可以顺序发送多条数据,比如 demo中顺序调用多个 onNext(),便实现了向调用程序发送多条数据, 甚至还能发送一个范围的数据集

2、4个命令执行方法

execute()queue()observe()toObservable()这4个方法用来触发执行 run()/construct(),一个实例只能执行一次这4个方法,特别说明的是 HystrixObservableCommand没有 execute()queue()

4个方法的主要区别是:

  • execute():以同步堵塞方式执行 run()。以 demo为例,调用 execute()后,hystrix先创建一个新线程运行 run(),接着调用程序要在 execute()调用处一直堵塞着,直到 run()运行完成

  • queue():以异步非堵塞方式执行 run()。以 demo为例,一调用 queue()就直接返回一个Future对象,同时hystrix创建一个新线程运行 run(),调用程序通过 Future.get()拿到 run()的返回结果,而 Future.get()是堵塞执行的

  • observe():事件注册前执行 run()/construct()。以 demo为例,第一步是事件注册前,先调用 observe()自动触发执行 run()/construct()(如果继承的是 HystrixCommand,hystrix将创建新线程非堵塞执行 run();如果继承的是 HystrixObservableCommand,将以调用程序线程堵塞执行 construct()),第二步是从 observe()返回后调用程序调用 subscribe()完成事件注册,如果 run()/construct()执行成功则触发 onNext()onCompleted(),如果执行异常则触发 onError()

  • toObservable():事件注册后执行 run()/construct()。以 demo为例,第一步是事件注册前,一调用 toObservable()就直接返回一个 Observable<String>对象,第二步调用 subscribe()完成事件注册后自动触发执行 run()/construct()(如果继承的是 HystrixCommand,hystrix将创建新线程非堵塞执行 run(),调用程序不必等待 run();如果继承的是 HystrixObservableCommand,将以调用程序线程堵塞执行 construct(),调用程序等待 construct()执行完才能继续往下走),如果 run()/construct()执行成功则触发 onNext()onCompleted(),如果执行异常则触发 onError()

3、fallback(降级)

使用fallback机制很简单,继承 HystrixCommand只需重写 getFallback(),继承 HystrixObservableCommand只需重写 resumeWithFallback(),比如 HelloWorldHystrixCommand加上下面代码片段:

      @Override
protected String getFallback() {
    return "fallback: " + name;
}

fallback实际流程是当 run()/construct()被触发执行时或执行中发生错误时,将转向执行 getFallback()/resumeWithFallback()。结合下图,4种错误情况将触发fallback:

  • 非HystrixBadRequestException异常:以 demo为例,当抛出HystrixBadRequestException时,调用程序可以捕获异常,没有触发 getFallback(),而其他异常则会触发 getFallback(),调用程序将获得 getFallback()的返回

  • run()/construct()运行超时:以 demo为例,使用无限while循环或sleep模拟超时,触发了 getFallback()

  • 熔断器启动:以 demo为例,我们配置10s内请求数大于3个时就启动熔断器,请求错误率大于80%时就熔断,然后for循环发起请求,当请求符合熔断条件时将触发 getFallback()。更多熔断策略见下文

  • 线程池/信号量已满:以 demo为例,我们配置线程池数目为3,然后先用一个for循环执行 queue(),触发的 run()sleep 2s,然后再用第2个for循环执行 execute(),发现所有 execute()都触发了fallback,这是因为第1个for的线程还在sleep,占用着线程池所有线程,导致第2个for的所有命令都无法获取到线程

来自hystrix github wiki

调用程序可以通过 isResponseFromFallback()查询结果是由 run()/construct()还是 getFallback()/resumeWithFallback()返回的

4、隔离策略

hystrix提供了两种隔离策略:线程池隔离和信号量隔离。hystrix默认采用线程池隔离。

  • 线程池隔离:不同服务通过使用不同线程池,彼此间将不受影响,达到隔离效果。以 demo为例,我们通过andThreadPoolKey配置使用命名为 ThreadPoolTest的线程池,实现与其他命名的线程池天然隔离,如果不配置andThreadPoolKey则使用withGroupKey配置来命名线程池

  • 信号量隔离:线程隔离会带来线程开销,有些场景(比如无网络请求场景)可能会因为用开销换隔离得不偿失,为此hystrix提供了信号量隔离,当服务的并发数大于信号量阈值时将进入fallback。以 demo为例,通过 withExecutionIsolationStrategy(ExecutionIsolationStrategy.SEMAPHORE)配置为信号量隔离,通过 withExecutionIsolationSemaphoreMaxConcurrentRequests配置执行并发数不能大于3,由于信号量隔离下无论调用哪种命令执行方法,hystrix都不会创建新线程执行 run()/construct(),所以调用程序需要自己创建多个线程来模拟并发调用 execute(),最后看到一旦并发线程>3,后续请求都进入fallback

5、熔断机制

熔断机制相当于电路的跳闸功能,举个栗子,我们可以配置熔断策略为当请求错误比例在10s内>50%时,该服务将进入熔断状态,后续请求都会进入fallback。

demo为例,我们通过 withCircuitBreakerRequestVolumeThreshold配置10s内请求数超过3个时熔断器开始生效,通过 withCircuitBreakerErrorThresholdPercentage配置错误比例>80%时开始熔断,然后for循环执行 execute()触发 run(),在 run()里,如果 name是小于10的偶数则正常返回,否则超时,通过多次循环后,超时请求占所有请求的比例将大于80%,就会看到后续请求都不进入 run()而是进入 getFallback(),因为不再打印 "running run():" + name了。

除此之外,hystrix还支持多长时间从熔断状态自动恢复等功能,见下文附录。

6、结果cache

hystrix支持将一个请求结果缓存起来,下一个具有相同key的请求将直接从缓存中取出结果,减少请求开销。要使用hystrix cache功能,第一个要求是重写 getCacheKey(),用来构造cache key;第二个要求是构建context,如果请求B要用到请求A的结果缓存,A和B必须同处一个context。通过 HystrixRequestContext.initializeContext()context.shutdown()可以构建一个context,这两条语句间的所有请求都处于同一个context。

demotestWithCacheHits()为例, command2acommand2bcommand2c同处一个context,前两者的cache key都是 2HLX(见 getCacheKey()),所以 command2a执行完后把结果缓存, command2b执行时就不走 run()而是直接从缓存中取结果了,而 command2c的cache key是 2HLX1,无法从缓存中取结果。此外,通过 isResponseFromCache()可检查返回结果是否来自缓存。

7、合并请求collapsing

hystrix支持N个请求自动合并为一个请求,这个功能在有网络交互的场景下尤其有用,比如每个请求都要网络访问远程资源,如果把请求合并为一个,将使多次网络交互变成一次,极大节省开销。重要一点,两个请求能自动合并的前提是两者足够“近”,即两者启动执行的间隔时长要足够小,默认为10ms,即超过10ms将不自动合并。

demo为例,我们连续发起多个queue请求,依次返回 f1~f6共6个Future对象,根据打印结果可知 f1~f5同处一个线程,说明这5个请求被合并了,而 f6由另一个线程执行,这是因为 f5f6中间隔了一个sleep,超过了合并要求的最大间隔时长。

附录:各种策略配置

根据 http://hot66hot.iteye.com/blog/2155036整理而得。

  • HystrixCommandProperties
      /* --------------统计相关------------------*/ 
// 统计滚动的时间窗口,默认:5000毫秒(取自circuitBreakerSleepWindowInMilliseconds)   
private final HystrixProperty metricsRollingStatisticalWindowInMilliseconds;   
// 统计窗口的Buckets的数量,默认:10个,每秒一个Buckets统计   
private final HystrixProperty metricsRollingStatisticalWindowBuckets; // number of buckets in the statisticalWindow   
// 是否开启监控统计功能,默认:true   
private final HystrixProperty metricsRollingPercentileEnabled;   
/* --------------熔断器相关------------------*/ 
// 熔断器在整个统计时间内是否开启的阀值,默认20。也就是在metricsRollingStatisticalWindowInMilliseconds(默认10s)内至少请求20次,熔断器才发挥起作用   
private final HystrixProperty circuitBreakerRequestVolumeThreshold;   
// 熔断时间窗口,默认:5秒.熔断器中断请求5秒后会进入半打开状态,放下一个请求进来重试,如果该请求成功就关闭熔断器,否则继续等待一个熔断时间窗口
private final HystrixProperty circuitBreakerSleepWindowInMilliseconds;   
//是否启用熔断器,默认true. 启动   
private final HystrixProperty circuitBreakerEnabled;   
//默认:50%。当出错率超过50%后熔断器启动
private final HystrixProperty circuitBreakerErrorThresholdPercentage;  
//是否强制开启熔断器阻断所有请求,默认:false,不开启。置为true时,所有请求都将被拒绝,直接到fallback 
private final HystrixProperty circuitBreakerForceOpen;   
//是否允许熔断器忽略错误,默认false, 不开启   
private final HystrixProperty circuitBreakerForceClosed; 
/* --------------信号量相关------------------*/ 
//使用信号量隔离时,命令调用最大的并发数,默认:10   
private final HystrixProperty executionIsolationSemaphoreMaxConcurrentRequests;   
//使用信号量隔离时,命令fallback(降级)调用最大的并发数,默认:10   
private final HystrixProperty fallbackIsolationSemaphoreMaxConcurrentRequests; 
/* --------------其他------------------*/ 
//使用命令调用隔离方式,默认:采用线程隔离,ExecutionIsolationStrategy.THREAD   
private final HystrixProperty executionIsolationStrategy;   
//使用线程隔离时,调用超时时间,默认:1秒   
private final HystrixProperty executionIsolationThreadTimeoutInMilliseconds;   
//线程池的key,用于决定命令在哪个线程池执行   
private final HystrixProperty executionIsolationThreadPoolKeyOverride;   
//是否开启fallback降级策略 默认:true   
private final HystrixProperty fallbackEnabled;   
// 使用线程隔离时,是否对命令执行超时的线程调用中断(Thread.interrupt())操作.默认:true   
private final HystrixProperty executionIsolationThreadInterruptOnTimeout; 
// 是否开启请求日志,默认:true   
private final HystrixProperty requestLogEnabled;   
//是否开启请求缓存,默认:true   
private final HystrixProperty requestCacheEnabled; // Whether request caching is enabled.
  • HystrixCollapserProperties
      //请求合并是允许的最大请求数,默认: Integer.MAX_VALUE   
private final HystrixProperty maxRequestsInBatch;   
//批处理过程中每个命令延迟的时间,默认:10毫秒   
private final HystrixProperty timerDelayInMilliseconds;   
//批处理过程中是否开启请求缓存,默认:开启   
private final HystrixProperty requestCacheEnabled;
  • HystrixThreadPoolProperties
      /* 配置线程池大小,默认值10个. 建议值:请求高峰时99.5%的平均响应时间 + 向上预留一些即可 */ 
private final HystrixProperty corePoolSize; 
/* 配置线程值等待队列长度,默认值:-1 建议值:-1表示不等待直接拒绝,测试表明线程池使用直接决绝策略+ 合适大小的非回缩线程池效率最高.所以不建议修改此值。 当使用非回缩线程池时,queueSizeRejectionThreshold,keepAliveTimeMinutes 参数无效 */
private final HystrixProperty maxQueueSize;

参考文献

https://github.com/Netflix/Hystrix
https://github.com/Netflix/Hystrix/wiki/How-To-Use
http://hot66hot.iteye.com/blog/2155036

相关 [hystrix 中文] 推荐:

Hystrix使用入门手册(中文) - 简书

- -
导语:网上资料(尤其中文文档)对hystrix基础功能的解释比较笼统,看了往往一头雾水. 为此,本文将通过若干demo,加入对. 官网How-it-Works的理解和翻译,力求更清晰解释hystrix的基础功能. 官网How-To-Use进行了二次修改,见. Hystrix是Netflix开源的一款容错系统,能帮助使用者码出具备强大的容错能力和鲁棒性的程序.

Hystrix 使用与分析

- - ITeye博客
 转载请注明出处哈:http://hot66hot.iteye.com/admin/blogs/2155036. 一:为什么需要Hystrix?. 在大中型分布式系统中,通常系统很多依赖(HTTP,hession,Netty,Dubbo等),如下图:. 在高并发访问下,这些依赖的稳定性与否对系统的影响非常大,但是依赖有很多不可控问题:如网络连接缓慢,资源繁忙,暂时不可用,服务脱机等..

[译]Hystrix的简单介绍

- - 上善若水 厚德载物
最近几天我直在探索Netflix Hystrix library,领会到了这个优秀类库提供的特性. 引用Hystrix网站的原话:.    Hystrix通过控制那些访问远程系统、服务和第三方库的节点,从而对延迟和故障提供更强大的容错能力,阻止故障的连锁反应. ,并允许你快速失败并迅速恢复. 这里有很多要分析的关键词,然而体验Hystrix的最佳方式就是亲手做一个例子来试试.

使用Hystrix提高系统可用性

- - Juven Xu
今天稍微复杂点的互联网应用,服务端基本都是分布式的,大量的服务支撑起整个系统,服务之间也难免有大量的依赖关系,依赖都是通过网络连接起来. (图片来源:https://github.com/Netflix/Hystrix/wiki). 然而任何一个服务的可用性都不是 100% 的,网络亦是脆弱的. 当我依赖的某个服务不可用的时候,我自身是否会被拖死.

隔离术之使用 Hystrix 实现隔离

- - IT瘾-dev
本篇摘自《亿级流量网站架构核心技术》第三章 隔离术 部分内容,全文. 商品详情页系统的Servlet3异步化实践. Hystrix是Netflix开源的一款针对分布式系统的延迟和容错库,目的是用来隔离分布式服务故障. 它提供线程和信号量隔离,以减少不同服务之间资源竞争带来的相互影响;提供优雅降级机制;提供熔断机制使得服务可以快速失败,而不是一直阻塞等待服务响应,并能从中快速恢复.

使用hystrix保护你的应用 - Kris的博客 | Kris' Blog

- -
凡是可能出错的事必定会出错. hystrix([hɪst'rɪks])是豪猪的意思. 豪猪是一种哺乳动物,全身是刺用以更好的保护自己. netflix使用这畜生来命名这框架实在是非常的贴切,意味着hystrix能够像豪猪的刺一样保护着你的应用. 本文专门探讨netflix的hystrix框架. 首先会说明在一次请求中调用多个远程服务时可能会出现的雪崩问题,然后提出几个解决这些问题的办法,从而引出了hystrix框架;之后我们会给出一个简单的例子试图说明hystrix是如何解决上述问题的;文章主要探讨了线程池隔离技术、信号量隔离技术、优雅降级、熔断器机制.

使用Hystrix完成熔断、限流和降级 - Blog of Kami Wan

- -
2.2 雪崩效应形成的原因. 2.2.1 服务提供者不可用原因. 2.2.3 服务调用者不可用. 3.2 Hystrix在spring boot中的使用. 为了保证系统不被突发流量击垮,进行容量保障是十分有必要的. 从架构的稳定性角度看,在有限资源的情况下,所能提供的单位时间服务能力也是有限的. 假如超过承受能力,可能会带来整个服务的停顿,应用的Crash,进而可能将风险传递给服务调用方造成整个系统的服务能力丧失,进而引发雪崩.

Hystrix熔断器技术解析-HystrixCircuitBreaker - 简书

- -
一、熔断器(Circuit Breaker)介绍. 熔断器,现实生活中有一个很好的类比,就是家庭电路中都会安装一个保险盒,当电流过大的时候保险盒里面的保险丝会自动断掉,来保护家里的各种电器及电路. Hystrix中的熔断器(Circuit Breaker)也是起到这样的作用,Hystrix在运行过程中会向每个commandKey对应的熔断器报告.

Twitter 中文版

- 幻幽 or A書 - Gea-Suan Lin&#39;s BLOG
前幾天 Twitter 推出了中文版 (包括繁體與簡體):「Five new languages」. 對岸的市場可能還是進不去,但在台灣會加速 Plurk 的死亡… 從 Google+ 的出現以後就愈來愈明顯了,現在 Microblogging 的大魔頭再加入戰局,應該會更快….

《Modern Perl》中文版

- Krevy - LinuxTOY
《Modern Perl》是由 chromatic 所著的一本 Perl 新书. 该书对 Perl 5 的特性进行了精彩的总结, 介绍 Perl 的惯用法,不错的 CPAN 模块,以及一些非常实用的建议. 总之,《Modern Perl》将教你使用 Modern 方法来进行 Perl 5 编程. 感谢 horus,现在我们可以读到《Modern Perl》的中文版.