yf2008 / duty-machine

抓取网络文章到github issues保存
https://archives.duty-machine.now.sh/
3 stars 0 forks source link

SpringCloud微服务:Sentinel哨兵组件,管理服务限流和降级 #70

Closed yf2008 closed 4 years ago

yf2008 commented 4 years ago

https://juejin.im/post/5e76c65f5188254953722280

yf2008 commented 4 years ago

SpringCloud微服务:Sentinel哨兵组件,管理服务限流和降级 by 2020年03月22日阅读 9

阅读 9

SpringCloud微服务:Sentinel哨兵组件,管理服务限流和降级

源码地址:GitHub·点这里||GitEE·点这里

一、基本简介

1、概念描述

Sentinel 以流量为切入点,从流量控制、熔断降级、系统负载保护等多个维度保护服务的稳定性。包括核心的独立类库,监控台,丰富的使用场景验证。(这似乎是阿里开源组件的一贯作风,极其有特点,且特点很规律)

基本特性图:

补刀一句:这种图很多人可能不在意,但是一般官方给这个图就是该中间件的基本使用思路,与核心功能点。

2、基础性概念

  • 资源管理

资源是Sentinel组件中的核心概念之一。应用服务器上脚本,静态页面,API接口,文件图片等都可以理解为资源,对于Java开发者而言,API接口就是这里资源的概念。

  • 规则配置

Sentinel组件通过流控规则的配置,来指定允许该资源(API接口)通过的请求次数,IP黑白名单,应用服务等。

  • 测试效果

QPS:每秒查询率,是一台服务器每秒能够处理的查询次数。

TPS:每秒处理事务数,事务处理整体倾向于整个过程。

二、框架环境整合

这里的环境主要整合Nacos注册中心,Feign服务,Sentinel哨兵,和Sentinel控制台。

1、基本依赖

这里的依赖需要参考官方文档,不同的环境使用不同的依赖,这里主要适配SpringCloud环境,所以使用如下包即可。

<dependency><groupId>com.alibaba.cloud</groupId><artifactId>spring-cloud-starter-alibaba-sentinel</artifactId><version>2.1.1.RELEASE</version></dependency>复制代码

2、控制台面板

这里直接从GitHub下载一个控制台服务包即可,也可以自己下载源码,按照需求修改后自行打包。

java -jar sentinel-dashboard-1.7.1.jar复制代码

下载并启动控制台服务。

3、服务配置

这里主要是把用到的两个服务9001和9002连接到监控台。

spring:application:name: node09-nacos-9001cloud:nacos:discovery:server-addr: 127.0.0.1:8848config:server-addr: 127.0.0.1:8848file-extension: yamlsentinel:transport:port: 9001dashboard: localhost:8080复制代码

最下面四行文件是哨兵控制台的主要配置,注意刚启动之后控制台是看不到连接的,有资源被触发之后才能看到。(附一张首页效果图)

三、流量控制

1、基本描述

流量控制(flow control),其原理是监控应用流量的 QPS 或并发线程数等指标,当达到指定的阈值时对流量进行控制,以避免被瞬时的流量高峰冲垮,从而保障应用的高可用性。

2、限流规则

限流规则主要由下面几个因素组成。

  • resource:资源名,即限流规则的作用对象,对于Java服务端开发而言就是执行的方法;
  • count: 限流阈值,单位时间内能按照规则通过的请求量;
  • grade: 限流阈值类型,QPS 或并发线程数 ;
  • limitApp: 流控限制的指定应用来源,若为default则不区分调用来源;
  • strategy: 调用关系限流策略,直连,链路等;
  • controlBehavior: 流量控制效果,直接拒绝、Warm Up、匀速排队;

3、基本案例

  • 硬编码

配置规则

public class FlowRuleConfig {public static void initFlowQpsRule(String resourceName) {List<FlowRule> rules = new ArrayList<>();FlowRule rule = new FlowRule(resourceName);// 修改这里参数,查看效果rule.setCount(100);rule.setGrade(RuleConstant.FLOW_GRADE_QPS);rule.setLimitApp("default");rules.add(rule);FlowRuleManager.loadRules(rules);}}复制代码

该规则参考上面的限流因素,不难理解。

使用方式

@RequestMapping(value = "/web/getOrder",method = RequestMethod.GET)public String getOrder (@RequestParam("id") Integer id){FlowRuleConfig.initFlowQpsRule("getOrder");Entry entry = null;try {// 定义资源,埋点entry = SphU.entry("getOrder");// 保护的业务逻辑return "Order=" + id ;} catch (Exception e){e.printStackTrace();} finally {if (entry != null){entry.exit();}}return "Order Error" ;}复制代码

测试的时候修改规则中count值,测试效果明显。

  • 编码简化

SphU.entry中可以设置处理类型,限流阈值。

@RequestMapping(value = "/web/getState",method = RequestMethod.GET)public String getState (@RequestParam("id") Integer id){Entry entry = null;try {entry = SphU.entry("getOrder",EntryType.IN,2);return "state=" + id;}catch (BlockException e){e.printStackTrace();} finally {if (entry != null){entry.exit();}}return "State Error" ;}复制代码

不过这种模式依旧是代码入侵严重,不太符合现在编程的大趋势。Sentinel支持通过@SentinelResource注解定义资源并配置。

4、测试效果

请求上述的两个测试接口,之后看控制台中9001服务的簇点链路。

可以基于控制台实时配置资源的:流控、降级、热点、授权等核心功能,服务重启之后配置也会重置。

四、服务熔断降级

1、注解详解

核心注解SentinelResource

用于定义资源,并提供可选的异常处理和 fallback 配置项。 @SentinelResource 注解包含以下属性:

  • value

资源名称,核心概念不能为空;

  • entryType

entry 类型,可选项默认为 EntryType.OUT;

  • blockHandler

对应处理BlockException的函数名称,可选项。blockHandler函数访问范围需要是public,返回类型需要与原方法相匹配,参数类型需要和原方法相匹配并且最后加一个额外的参数,类型为BlockException。blockHandler函数默认需要和原方法在同一个类中。若希望使用其他类的函数,则可以指定 blockHandlerClass为对应的类的Class对象,注意对应的函数必须为 static 函数,否则无法解析。

  • fallback

fallback函数名称,可选项,用于在抛出异常的时候提供fallback处理逻辑。fallback函数可以针对所有类型的异常(除了 exceptionsToIgnore里面排除掉的异常类型)进行处理。fallback 函数签名和位置要求:返回值类型必须与原函数返回值类型一致;方法参数列表需要和原函数一致,或者可以额外多一个;

注意:这里可以这样理解blockHandler和fallback,fallback处理业务逻辑的异常,服务降级,blockHandler处理sentinel组件控制的阻断异常。

2、使用案例

9001接口服务

@Servicepublic class FlowServiceImpl implements FlowService {@Resourceprivate JdbcTemplate jdbcTemplate ;@SentinelResource(value = "getPhone",blockHandler = "exceptionHandler", fallback = "fallback")@Overridepublic String getPhone(Integer id) {String sql = "select phone from d_phone WHERE id="+id ;Integer.parseInt("hand") ;return jdbcTemplate.queryForList(sql,String.class).get(0) ;}// 降级处理public String fallback(Integer id) {return "服务降级,id="+id ;}// 异常处理public String exceptionHandler(Integer id,BlockException be) {be.printStackTrace();return "服务抛异常,id="+id ;}}复制代码

9002请求服务

@RequestMapping(value = "/web/getJdbc",method = RequestMethod.GET)public String getJdbc () {return msgFeign.getJdbc() ;}复制代码

3、效果测试

通过控制台配置9001的限流规则,然后刷接口看效果。

注意阻断异常和业务异常的返参区别。

4、对比Hystrix组件

Hystrix的核心点在于以隔离和熔断为主的容错机制,超时或被熔断的调用将会快速失败,并可以提供 fallback 机制;

Sentinel核心点在于流量控制多样化,熔断降级服务,系统负载保护,实时监控和控制台;

补刀一句:对于流量控制类的组件,大部分场景是使用限流,服务降级这两块核心功能。

五、源代码地址

GitHub地址:知了一笑https://github.com/cicadasmile/spring-cloud-baseGitEE地址:知了一笑https://gitee.com/cicadasmile/spring-cloud-base复制代码

微服务系列组件

Eureka组件之服务注册与发现

Ribbon和Feign组件实现负载均衡

Hystrix组件实现服务熔断

Turbine组件,实现微服务集群监控

Zuul组件,实现路由网关控制

Config组件,实现配置统一管理

Zipkin组件,实现请求链路追踪

组件总结,与Dubbo框架、Boot框架对比

阿里开源组件Nacos,服务和配置管理

分库分表模式下,数据库扩容方案描述

分库分表模式,数据库扩容方案实现