spring cloud stream使用笔记 - 简书

标签: | 发表时间:2021-12-18 19:47 | 作者:
出处:https://www.jianshu.com

一、背景

以前我们在spring boot中构建一个消息驱动的微服务应用,通常会使用rabbitMQ或是kafka来做消息中间件,应用中均需代码实现具体消息中间件的通信细节。此时如果再更换一个新的消息中间件,这会我们又需新增这些通信代码,写起来会比较繁琐,而stream出现就是为了简化这一过程。

二、简介


它是一个构建消息驱动的微服务应用的框架。通过一些抽象出来的基础概念,来简化消息中间件的使用。我们可以看下官网上的处理模型图:

image
  • 关键概念

Inputs 接收消息的通道
Output 发送消息的通道
Binder 可理解为一个抽象的中间件,应用通过在spring cloud stream中所注入的inputs,outputs通道来跟外界消息通信,而这些通道又是通过具体中间件的Binder实现来连接到消息队列的服务器上。有了Binder,甚至可以不改一行代码,就切换中间件的类型。目前Binder实现支持的具体中间件类型为:rabbitMQ 和 kfaka这俩

当然MQ中的消费组group 和 分区 partion的概念他也有,跟kafka里面的概念是一样的。
Group:消费组,一个消息到达一个消费组后,只能被这个消费组的其中一个实例消费掉;
Partion:消息分区,一个非常大的topic可以分布到多个broker(即服务器)上

三、使用步骤

以下以rabbitMQ为具体中间件作为示例:

1. 在pom.xml中添加依赖
    <dependency>
       <groupid >org.springframework.cloud</groupid>
       <artifactid>spring-cloud-starter-stream-rabbit</artifactid>
</dependency>
2.自定义通道的创建

自定义通道的创建有两种方式,一种是提前在代码里定义好的,另一种是在运行时通过读取完通道名来创建的。

2.1 方式一:提前定义好的通道
  • 定义生产者
    我们定义一个生产者类SampleSource,这类要完成2件事:
  • 2.1.1 自定义发送通道
  • 2.1.2 完成发送消息的功能
    @EnableBinding(SampleSource.MultiOutputSource.class)
public class SampleSource {
   
       //自定义发送通道
    public interface MultiOutputSource {
        String OUTPUT1 = "output1";

        String OUTPUT2 = "output2";

        @Output(OUTPUT1)
        MessageChannel output1();

        @Output(OUTPUT2)
        MessageChannel output2();
    }
}

注意:要加上@EnableBinding 绑定通道才能够发出消息到mq的服务器。

  • 方式二:动态创建通道
    @EnableBinding
@Controller
public class SourceWithDynamicDestination {

    @Autowired
    private BinderAwareChannelResolver resolver;

    @RequestMapping(path = "/{target}", method = POST, consumes = "*/*")
    @ResponseStatus(HttpStatus.ACCEPTED)
    public void handleRequest(@RequestBody String body, @PathVariable("target") target,
           @RequestHeader(HttpHeaders.CONTENT_TYPE) Object contentType) {
        sendMessage(body, target, contentType);
    }

    private void sendMessage(String body, String target, Object contentType) {
        resolver.resolveDestination(target).send(MessageBuilder.createMessage(body,
                new MessageHeaders(Collections.singletonMap(MessageHeaders.CONTENT_TYPE, contentType))));
    }
}

这是官网的示例代码,可以看到关键代码是这两句

    @Autowired
private BinderAwareChannelResolver resolver;
//中间省略代码...
  resolver.resolveDestination(target).send(MessageBuilder.createMessage(body,
                new MessageHeaders(Collections.singletonMap(MessageHeaders.CONTENT_TYPE, contentType))));

resolveDestination里面的处理就是,先查找传入的target通道名,看下有没创建过,如果没有就会默认创建一个。

  • 生产者实现发送消息的函数
    在SampleSource这类里添加sendMessage函数
    public class SampleSource{
 @Bean
    @InboundChannelAdapter(value = MultiOutputSource.OUTPUT1, poller = @Poller(fixedDelay = "1000", maxMessagesPerPoll = "1"))
    public synchronized MessageSource<String> messageSource1() {
        return new MessageSource<String>() {
            public Message<String> receive() {
                String message = "FromSource1";
                System.out.println("******************");
                System.out.println("From Source1");
                System.out.println("******************");
                System.out.println("Sending value: " + message);
                return new GenericMessage(message);
            }
        };
    }

    @Bean
    @InboundChannelAdapter(value = MultiOutputSource.OUTPUT2, poller = @Poller(fixedDelay = "1000", maxMessagesPerPoll = "1"))
    public synchronized MessageSource<String> timerMessageSource() {
        return new MessageSource<String>() {
            public Message<String> receive() {
                String message = "FromSource2";
                System.out.println("******************");
                System.out.println("From Source2");
                System.out.println("******************");
                System.out.println("Sending value: " + message);
                return new GenericMessage(message);
            }
        };
    }

}

对应的配置application.yml:

    spring:
  cloud.stream.bindings:
    output1:
      contentType: application/json #约定消息的内容编码格式
    output2:
      contentType: application/json #约定消息的内容编码格式

  rabbitmq:
    host: 127.0.0.1 
    port: 5672
    username: sa
    password: 123456
3. 消费者类的实现

消费者类要做的事也是相似的:
3.1.自定义接收通道
3.2消费消息的功能实现

    @EnableBinding(SampleSink.MultiInputSink.class)
public class SampleSink {

    @StreamListener(MultiInputSink.INPUT1)
    public synchronized void receive1(String message) {
        System.out.println("******************");
        System.out.println("At Sink1");
        System.out.println("******************");
        System.out.println("Received message " + message);
    }

    @StreamListener(MultiInputSink.INPUT2)
    public synchronized void receive2(String message) {
        System.out.println("******************");
        System.out.println("At Sink2");
        System.out.println("******************");
        System.out.println("Received message " + message);
    }

    public interface MultiInputSink {
        String INPUT1 = "input1";

        String INPUT2 = "input2";

        @Input(INPUT1)
        SubscribableChannel input1();

        @Input(INPUT2)
        SubscribableChannel input2();
    }
}

对应的配置 application.yml (当然用application.propertities)

    spring:
  cloud.stream:
    bindings:
      input1:
        group: inputGroup #加上group是为了持久化
      input2:
        group: inputGroup2
rabbit:
      host: 127.0.0.1 
      port: 5672
      username: sa
      password: 123456
4.死信队列设置

问题列表:

  • 消息在什么条件下进入死信队列?发送失败后,如何设置重试次数 or TTL?

  • 进入死信队列之后,若又需要该消息重新回到原队列进行处理,该怎么办


转入死信队列的条件:

配置死信队列及消息消费失败重试次数(application.yml):

image
  • 配置消息消费重试次数

两种方式
1) 如果允许重试一定次数:如上图配置所示,设置max_attempt ,大于1即可
2)如果不允许重发,消费失败了就进入死信队列,在配置中添加requeueRejected设为true

    spring:
  cloud.stream:
    bindings:
      input1:
        group: inputGroup1
    rabbit:
      bindings:
        input1:
          consumer:
            autoBindDlq: true #启用死信队列,默认会生成一个DLX EXCHANGE,当消息重复消费失败后
            dlqDeadLetterExchange: input-deadLetter.DLX  #如果该列声明,那么deadLetterExchange也要声明,这个保持一致
            deadLetterExchange: input-deadLetter.DLX #与dlqDeadLetterExchange保持一致
            requeueRejected: true
      host: 127.0.0.1   
      port: 5672
      username: sa
      password: 123456
  • 在代码中将某消息转入死信队列,另可见 官网示例

5、消息的格式:

(1)消息头,包含了以下字段:

image

翻看源码,MessageHeader是个Map结构,左边是字段名,右边是字段内容。可以在创建MessageHeader的时候传入已经初始化的Map,注意我们可以在这指定body的contentType。contentType能填什么内容,查找下表即可(官网上找到的):

image

(2)至于消息体(payLoad),它支持自定义结构,格式自定。


6、如何保证消息的可靠性?

一般是通过具体的消息中间件来保证。

配置组就可以来保证消息可靠性。见官网描述: 消息的持久性

设置持久性的属性:durableSubscription

image

四、相关链接

相关 [spring cloud stream] 推荐:

spring cloud stream使用笔记 - 简书

- -
以前我们在spring boot中构建一个消息驱动的微服务应用,通常会使用rabbitMQ或是kafka来做消息中间件,应用中均需代码实现具体消息中间件的通信细节. 此时如果再更换一个新的消息中间件,这会我们又需新增这些通信代码,写起来会比较繁琐,而stream出现就是为了简化这一过程. 它是一个构建消息驱动的微服务应用的框架.

大话 Spring Cloud

- - IT瘾-dev
研究了一段时间spring boot了准备向spirng cloud进发,公司架构和项目也全面拥抱了Spring Cloud. 在使用了一段时间后发现Spring Cloud从技术架构上降低了对大型系统构建的要求,使我们以非常低的成本(技术或者硬件)搭建一套高效、分布式、容错的平台,但Spring Cloud也不是没有缺点,小型独立的项目不适合使用.

Spring Cloud限流详解 | Spring Cloud|周立

- -
限流往往是一个绕不开的话题. 本文详细探讨在Spring Cloud中如何实现限流. Zuul上实现限流是个不错的选择,只需要编写一个过滤器就可以了,关键在于如何实现限流的算法. 常见的限流算法有漏桶算法以及令牌桶算法. https://www.cnblogs.com/LBSer/p/4083131.html,写得通俗易懂,你值得拥有,我就不拽文了.

Spring Cloud Kubernetes指南

- -
当我们构建微服务解决方案时,SpringCloud和Kubernetes都是最佳解决方案,因为它们为解决最常见的挑战提供组件. 但是,如果我们决定选择Kubernetes作为我们的解决方案的主要容器管理器和部署平台,我们仍然可以主要通过SpringCloudKubernetes项目使用SpringCloud的有趣特性.

Spring Cloud 快速入门

- - IT瘾-tuicool
Spring Cloud 是一套完整的微服务解决方案,基于 Spring Boot 框架,准确的说,它不是一个框架,而是一个大的容器,它将市面上较好的微服务框架集成进来,从而简化了开发者的代码量. 本课程由浅入深带领大家一步步攻克 Spring Cloud 各大模块,接着通过一个实例带领大家了解大型分布式微服务架构的搭建过程,最后深入源码加深对它的了解.

Deploy the spring cloud project using jenkins

- - Telami
先简单记录下Jenkins部署maven聚合工程要点. Root pom配置成项目根目录的pom.xml. maven命令单独install 欲构建的项目. 选项后可跟随{groupId}:{artifactId}或者所选模块的相对路径(多个模块以逗号分隔). 表示同时处理选定模块所依赖的模块. 表示同时处理依赖选定模块的模块.

Spring Cloud Gateway(限流) | Wind Mt

- -
限流可以保障我们的 API 服务对所有用户的可用性,也可以防止网络攻击. 一般开发高并发系统常见的限流有:限制总并发数(比如数据库连接池、线程池)、限制瞬时并发数(如 nginx 的 limit_conn 模块,用来限制瞬时并发连接数)、限制时间窗口内的平均速率(如 Guava 的 RateLimiter、nginx 的 limit_req 模块,限制每秒的平均速率);其他还有如限制远程接口调用速率、限制 MQ 的消费速率.

快速突击 Spring Cloud Gateway

- - 掘金后端
认识 Spring Cloud Gateway. Spring Cloud Gateway 是一款基于 Spring 5,Project Reactor 以及 Spring Boot 2 构建的 API 网关,是 Spring Cloud 微服务生态的主要组件之一. Spring Cloud Gateway 主要负责接口请求的路由分发,并且支持对请求的安全验证,流量监控和流量控制等扩展操作.

Spring Cloud Gateway2.0实践报告

- - 掘金后端
你的点赞就是对我最大的支持. 原创:小姐姐味道(微信公众号ID:xjjdog),欢迎分享,转载请保留出处. 本文将从知识拓扑讲起,谈一下api网关的功能,以及spring cloud gateway的使用方法. 一、知识拓扑 (使用和原理) 二、网关的作用 三、Predicate,路由匹配 四、Filter,过滤器编写 五、自定义过滤器 六、常见问题 复制代码.

微服务框架Spring Cloud介绍 Part2: Spring Cloud与微服务

- - skaka的博客
之前介绍过 微服务的概念与Finagle框架, 这个系列介绍Spring Cloud.. Spring Cloud还是一个相对较新的框架, 今年(2016)才推出1.0的release版本. 虽然Spring Cloud时间最短, 但是相比我之前用过的Dubbo和Finagle, Spring Cloud提供的功能最齐全..