Cloud Alibaba Sentinel——流控

一、基础概述

1、官网:https://github.com/alibaba/Sentinel/wiki/介绍

Sentinel是什么?

分布式系统的流量防卫兵!!!——Hystrix的阿里版

随着微服务的流行,服务和服务之间的稳定性变得越来越重要。Sentinel 以流量为切入点,从流量控制、熔断降级、系统负载保护等多个维度保护服务的稳定性。

Sentinel 具有以下特征:

  • 丰富的应用场景:Sentinel 承接了阿里巴巴近 10 年的双十一大促流量的核心场景,例如秒杀(即突发流量控制在系统容量可以承受的范围)、消息削峰填谷、集群流量控制、实时熔断下游不可用应用等。

  • 完备的实时监控:Sentinel 同时提供实时的监控功能。您可以在控制台中看到接入应用的单台机器秒级数据,甚至 500 台以下规模的集群的汇总运行情况。

  • 广泛的开源生态:Sentinel 提供开箱即用的与其它开源框架/库的整合模块,例如与 Spring Cloud、Dubbo、gRPC 的整合。您只需要引入相应的依赖并进行简单的配置即可快速地接入 Sentinel。

  • 完善的 SPI 扩展点:Sentinel 提供简单易用、完善的 SPI 扩展接口。您可以通过实现扩展接口来快速地定制逻辑。例如定制规则管理、适配动态数据源等。

2、Sentinel与豪猪哥Hystrix的对比 —— 约定 > 配置 > 编码

Hystrix

1、需要我们程序员自己手动搭建服务监控平台 hystrix-dashboard;

2、没有一套web界面可以给我们进行更加细粒度化的配置;

Sentinel

1、单独一个组件,可以完全独立出来,也不用我们自己搭建监控服务;

2、直接界面化地细粒度统一配置;

3、Sentinel的主要特征:

48.jpg

4、Sentinel的开源生态:

49.jpg

5、Sentinel的组成:

Sentinel主要分为两个部分:

  • 核心库(Java 客户端)不依赖任何框架/库,能够运行于所有 Java 运行时环境,同时对 Dubbo / Spring Cloud 等框架也有较好的支持。

  • 控制台(Dashboard)基于 Spring Boot 开发,打包后可以直接运行,不需要额外的 Tomcat 等应用容器(默认端口8080)。


二、Sentinel的下载与安装——Windows版

1、下载地址:

https://github.com/alibaba/Sentinel/releases

本次我选择的版本是 v1.7.0,下载完是一个jar包;

2、使用 java -jar 运行;

3、运行成功后,访问 http://localhost:8080 即可,默认账号密码为 sentinel

50.jpg


三、Sentinel初始化监控使用

1、我们快速创建一个服务 cloudalibaba-sentinel-service8401

pom.xml:

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <parent>
        <artifactId>cloud2020</artifactId>
        <groupId>com.jiguiquan.springcloud</groupId>
        <version>1.0-SNAPSHOT</version>
    </parent>
    <modelVersion>4.0.0</modelVersion>

    <artifactId>cloudalibaba-sentinel-service8401</artifactId>

    <dependencies>
        <!--springcloud alibaba nacos discovery 以后服务中将nacos和sentinel一起配-->
        <dependency>
            <groupId>com.alibaba.cloud</groupId>
            <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
        </dependency>
        <!--springcloud alibaba sentinel-->
        <dependency>
            <groupId>com.alibaba.cloud</groupId>
            <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
        </dependency>
        <!--springcloud alibaba sentinel-datasource-nacos 后续做持久化用到-->
        <dependency>
            <groupId>com.alibaba.csp</groupId>
            <artifactId>sentinel-datasource-nacos</artifactId>
        </dependency>

        <!--openfeign-->
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-openfeign</artifactId>
            <version>2.2.1.RELEASE</version>
        </dependency>

        <!--公共服务模块依赖-->
        <dependency>
            <groupId>com.jiguiquan.springcloud</groupId>
            <artifactId>cloud-api-commons</artifactId>
            <version>${project.version}</version>
        </dependency>

        <!--springboot项目web和actuator最好一起走-->
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-actuator</artifactId>
        </dependency>

        <!--热部署devtools-->
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-devtools</artifactId>
            <scope>runtime</scope>
            <optional>true</optional>
        </dependency>

        <!--lombok-->
        <dependency>
            <groupId>org.projectlombok</groupId>
            <artifactId>lombok</artifactId>
            <optional>true</optional>
        </dependency>

        <!--测试-->
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-test</artifactId>
        </dependency>
    </dependencies>
</project>

2、配置文件 application.yml:

server:
  port: 8401

spring:
  application:
    name: cloudalibaba-sentinel-service
  cloud:
    nacos:
      discovery:
        server-addr: localhost:8848
    sentinel:
      transport:
        dashboard: localhost:8080
        #默认是8719端口,如果没占用,就会开始+1一直找,直到找到未被占用的端口
        port: 8719

management:
  endpoints:
    web:
      exposure:
        include: '*'

3、启动类就省了:

4、业务类:FlowLimitController.java:

@RestController
public class FlowLimitController {
    @GetMapping("testA")
    public String testA(){
        return "--------testA";
    }

    @GetMapping("testB")
    public String testB(){
        return "--------testB";
    }
}

5、启动测试,依次启动Nacos服务、Sentinel-dashboard服务、8401服务:

顺利启动后,我们会发现Sentinel监控平台,依旧空空如也;

因为Sentinel使用的是懒加载机制,所以我们调用触发一次对8401服务的访问

52.jpg

这样我们就能看到Sentinel的初始化监控界面了!!!


四、Sentinel流量控制(流控)

1、流控规则简介:

53.jpg

我们还可以参考阿里云的这块关于流控的知识:

https://help.aliyun.com/document_detail/101077.html

2、测试 QPS-直接失败

为 /testA 访问路径,添加如下 流控规则:QPS(每秒访问次数) > 2,直接失败

54.jpg

然后快速点击访问 /testA 多次,确保 QPS > 2

55.jpg

显然 QPS 大于阈值后,会直接被Sentinel流控规则拦截!

3、测试 线程数-直接失败

为 /testB 访问路径,添加如下限流规则: 

56.jpg

为了模拟多个线程,我们让 /testB 的简单业务,阻塞 1 秒钟;

@GetMapping("testB")
public String testB(){
    try {
        TimeUnit.SECONDS.sleep(1);
    } catch (InterruptedException e) {
        e.printStackTrace();
    }
    return "--------testB";
}

然后快速地访问 /testB 路径,我们发现原本简单的testB也被Sentinel的流控规则给拦截了;

57.jpg

阈值类型 QPS 和 线程数的区别
QPS 在进入服务之前就被拦截了(银行大门)
线程数 在进入服务之后,开始办理服务的过程中,被拦截(业务柜台)

4、流控模式——关联

定义:当关联的资源达到阈值时,就限流自己 —— 别人惹事,我来背锅

我们设计一个这样的场景:当与testA关联的资源testB达到阈值后,就限流testA —— testB惹事,限流testA

实际场景:比如支付接口达到阈值后,我们就限流 下订单的业务;

配置如下:

58.jpg

测试,因为设计两个接口,手速肯定不够,所以我们借助postman工具,循环访问:

59.jpg

在postmen对testB的循环访问前,testA的访问一切正常,但是运行后,testA的访问,也出现了问题:

60.jpg

这就是Sentinel流控模式之关联!

5、流控模式——链路(多个请求调用了同一个微服务):略

6、流控效果——预热(Warm Up)

公式:阈值除以coldFactor(默认值为3),经过预热时长后才会达到阈值!

Warm Up(RuleConstant.CONTROL_BEHAVIOR_WARM_UP)方式,即预热/冷启动方式;

当系统长时间处于低水位情况下,当流量突然增加时,直接把系统拉升到高水位,可能瞬间将系统冲垮;通过“冷启动”,让通过的流量缓慢增加,在一定时间内,逐渐增加到阈值上限,给冷系统一个预热的过程时间,避免冷系统被冲垮;

通常,冷启动的过程QPS曲线如下图:

61.jpg

当流量突然增大的时候,我们常常会希望系统从空闲状态到繁忙状态的切换的时间长一些。即如果系统在此之前长期处于空闲的状态,我们希望处理请求的数量是缓步的增多,经过预期的时间以后,到达系统处理请求个数的最大值。Warm Up(冷启动,预热)模式就是为了实现这个目的的。

这个场景主要用于启动需要额外开销的场景,例如建立数据库连接等。

默认 coldFactor 为 3,即请求 QPS 从 threshold / 3 开始,经 预热时长 逐渐升至设定的 QPS 阈值。

Demo配置:

62.jpg

场景:秒杀系统,在开启的瞬间,会有很多流量上来,很有可能会把系统打死,预热方式就是为了保护系统,可以慢慢地将流量放进来,慢慢地把阈值增长到设置的目标阈值;

7、流控效果——排队等待

匀速排队(RuleConstant.CONTROL_BEHAVIOR_RATE_LIMITER)方式会严格控制请求通过的间隔时间,也即是让请求以均匀的速度通过,对应的是漏桶算法

阈值类型必须设成QPS,无法设成线程数;

含义: /testA 每秒一次请求,超过的话就排队等待,等待的超时时间为20000毫秒,超过timwout时间,这个请求就会被直接打回;

63.jpg

该方式的作用如下图所示:

64.jpg

这种方式主要用于处理间隔性突发的流量,例如消息队列。想象一下这样的场景,在某一秒有大量的请求到来,而接下来的几秒则处于空闲状态,我们希望系统能够在接下来的空闲期间逐渐处理这些请求,而不是在第一秒直接拒绝多余的请求。

Sentinel的流控作用就到这里!

个人此项目代码地址(持续更新):

https://github.com/jiguiquan/cloud2020

jiguiquan@163.com

文章作者信息...

留下你的评论

*评论支持代码高亮<pre class="prettyprint linenums">代码</pre>

相关推荐