前言
随着微服务架构的广泛应用,服务和服务之间的稳定性变得越来越重要。在高并发场景下,如何保障服务的稳定性和可用性成为了一个关键问题。阿里巴巴开源的sentinel作为一个面向分布式服务架构的流量控制组件,提供了从流量控制、熔断降级、系统负载保护等多个维度来保障服务稳定性的解决方案。
本文将详细介绍sentinel的核心原理和基本功能点,并提供一个完整的springboot整合sentinel的案例,帮助读者快速掌握sentinel的使用方法。
一、sentinel简介
1.1 什么是sentinel
sentinel是阿里巴巴开源的,面向分布式服务架构的流量控制组件,主要以流量为切入点,从流量控制、熔断降级、系统负载保护等多个维度来保障服务的稳定性。
sentinel的主要特性包括:
- 丰富的应用场景:sentinel承接了阿里巴巴近10年的双十一大促流量的核心场景,例如秒杀(即突发流量控制在系统容量可以承受的范围)、消息削峰填谷、集群流量控制、实时熔断下游不可用应用等。
- 完备的实时监控:sentinel同时提供实时的监控功能。用户可以在控制台中看到接入应用的单台机器秒级数据,甚至500台以下规模的集群的汇总运行情况。
- 广泛的开源生态:sentinel提供开箱即用的与其它开源框架/库的整合模块,例如与spring cloud、apache dubbo、grpc、quarkus的整合。用户只需要引入相应的依赖并进行简单的配置即可快速地接入sentinel。同时sentinel提供java/go/c++等多语言的原生实现。
- 完善的spi扩展机制:sentinel提供简单易用、完善的spi扩展接口。用户可以通过实现扩展接口来快速地定制逻辑。例如定制规则管理、适配动态数据源等。
1.2 sentinel与其他熔断降级工具的对比
相比于其他熔断降级工具(如hystrix),sentinel具有以下优势:
- 丰富的流量控制:sentinel提供了更丰富的流量控制策略,包括基于调用关系的流量控制、热点参数限流等。
- 实时监控:sentinel提供了实时的监控功能,可以实时查看接入应用的运行情况。
- 轻量级设计:sentinel采用轻量级设计,不依赖任何框架/库,能够运行于所有java运行时环境。
- 多语言支持:sentinel提供了java/go/c++等多语言的原生实现。
- 完善的spi扩展机制:sentinel提供了完善的spi扩展接口,用户可以通过实现扩展接口来快速地定制逻辑。
二、sentinel核心原理
2.1 基本工作原理
sentinel的核心工作原理可以概括为:
- 资源定义:资源是sentinel的核心概念,它可以是java应用程序中的任何内容,例如,由应用程序提供的服务,或由应用程序调用的其它应用提供的服务,甚至可以是一段代码。只要通过sentinel api定义的代码,就是资源。
- 规则配置:sentinel通过规则来指定资源的访问控制策略。规则包括流量控制规则、熔断降级规则、系统保护规则、来源访问控制规则和热点参数规则等。
- 统计与判断:sentinel会实时统计资源的调用数据,并根据预设的规则进行判断,若超出阈值,则采取相应的流量控制措施。
2.2 sentinel的执行流程
sentinel的执行流程主要分为以下几个步骤:
- 资源埋点:通过
sphu.entry(resourcename)
和entry.exit()
方法对资源进行埋点。 - 规则判断:当资源被访问时,sentinel会根据预设的规则进行判断。
- 流量控制:如果触发了规则条件,sentinel会执行相应的流量控制措施,例如直接拒绝、排队等待或预热模式。
- 熔断降级:对于响应时间过长或异常比例过高的服务,sentinel会进行熔断降级处理。
- 系统自适应保护:当系统负载过高时,sentinel会自动进行系统保护。
2.3 sentinel的核心组件
sentinel的核心组件主要包括:
- sentinel核心库:不依赖任何框架/库,能够运行于所有java运行时环境,同时对dubbo/spring cloud等框架也有较好的支持。
- sentinel控制台:基于spring boot开发,打包后可以直接运行,不需要额外的tomcat等应用容器。
三、sentinel基本功能点
3.1 流量控制
流量控制(flow control)是sentinel最核心的功能之一,其原理是监控应用流量的qps或并发线程数等指标,当达到指定的阈值时对流量进行控制,以避免被瞬时的流量高峰冲垮,从而保障应用的高可用性。
流量控制主要有以下几个维度:
基于qps/并发数的流量控制:
- 并发数控制:用于保护业务线程池不被慢调用耗尽。
- qps控制:当qps超过某个阈值的时候,采取措施进行流量控制。
流量控制效果:
- 直接拒绝:默认的流量控制方式,当qps超过任意规则的阈值后,新的请求就会被立即拒绝。
- warm up:预热/冷启动方式,让通过的流量缓慢增加,在一定时间内逐渐增加到阈值上限。
- 匀速排队:严格控制请求通过的间隔时间,让请求以均匀的速度通过,对应的是漏桶算法。
基于调用关系的流量控制:
- 根据调用方来源进行流量控制。
- 支持针对不同的调用方设置不同的流控策略。
3.2 熔断降级
熔断降级(circuit breaking)是sentinel的另一个重要功能,它用于当调用链路中某个资源出现不稳定状态时(例如调用超时或异常比例升高),对这个资源的调用进行限制,让请求快速失败,避免影响到其它的资源而导致级联错误。
熔断降级主要有以下几个维度:
- 慢调用比例:当资源的响应时间超过阈值(慢调用)的比例超过设定的比例阈值时,触发熔断。
- 异常比例/异常数:当资源的异常比例或异常数超过阈值时,触发熔断。
- 恢复策略:熔断触发后,经过一段时间(即熔断超时时间),熔断器会进入探测恢复状态,若接下来的一个请求处理成功,则结束熔断,否则继续熔断。
3.3 热点参数限流
热点参数限流是一种更细粒度的流量控制,它允许用户针对某个热点参数进行限流,例如针对某个用户id限流。
热点参数限流的特点:
- 可以针对某个参数的特定值单独设置限流阈值。
- 支持多种参数类型,包括基本类型和字符串类型。
- 可以设置参数例外项,对特定的参数值进行不同的限流处理。
3.4 系统自适应限流
系统自适应限流从整体维度对应用入口流量进行控制,结合应用的load、cpu使用率、总体平均rt、入口qps和并发线程数等几个维度的监控指标,通过自适应的流控策略,让系统的入口流量和系统的负载达到一个平衡,让系统尽可能跑在最大吞吐量的同时保证系统整体的稳定性。
系统规则包含以下几个重要的参数:
- load:当系统load1超过阈值,且系统当前的并发线程数超过系统容量时才会触发系统保护。
- cpu使用率:当系统cpu使用率超过阈值即触发系统保护。
- 平均rt:当单台机器上所有入口流量的平均rt达到阈值即触发系统保护。
- 并发线程数:当单台机器上所有入口流量的并发线程数达到阈值即触发系统保护。
- 入口qps:当单台机器上所有入口流量的qps达到阈值即触发系统保护。
3.5 黑白名单控制
黑白名单控制根据资源的请求来源(origin)限制资源是否通过:
- 白名单:来源(origin)在白名单内的请求才可通过。
- 黑名单:来源(origin)在黑名单内的请求不允许通过。
3.6 实时监控
sentinel提供实时的监控功能,用户可以实时查看接入应用的单台机器秒级数据,甚至500台以下规模的集群的汇总运行情况。监控数据包括:
- 通过的请求数(pass):一秒内到来到的请求。
- 被阻止的请求数(blocked):一秒内被流量控制的请求数量。
- 成功处理的请求数(success):一秒内成功处理完的请求。
- 总请求数(total):一秒内到来的请求以及被阻止的请求总和。
- 平均响应时间(rt):一秒内该资源的平均响应时间。
- 异常数(exception):一秒内业务本身异常的总和。
3.7 动态规则配置
sentinel支持多种动态规则源,包括:
- 文件配置:规则存储在文件中,定期轮询文件获取规则。
- nacos配置中心:规则存储在nacos配置中心,通过监听配置变更事件即时获取规则。
- zookeeper:规则存储在zookeeper中,通过监听节点变更事件即时获取规则。
- apollo配置中心:规则存储在apollo配置中心,通过监听配置变更事件即时获取规则。
- redis:规则存储在redis中,通过定期轮询获取规则。
四、springboot整合sentinel完整案例
下面我们将通过一个完整的案例,演示如何在springboot项目中整合sentinel。
4.1 项目结构
springcloud-sentinel ├── src │ └── main │ ├── java │ │ └── com.example │ │ ├── config │ │ │ └── sentinelconfig.java │ │ ├── controller │ │ │ └── testsentinelcontroller.java │ │ ├── service │ │ │ └── helloservice.java │ │ └── sentinelapplication.java │ └── resources │ └── application.properties └── pom.xml
4.2 maven依赖配置
<?xml version="1.0" encoding="utf-8"?> <project xmlns="http://maven.apache.org/pom/4.0.0" xmlns:xsi="http://www.w3.org/2001/xmlschema-instance" xsi:schemalocation="http://maven.apache.org/pom/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd"> <modelversion>4.0.0</modelversion> <groupid>com.example</groupid> <artifactid>springboot-sentinel-demo</artifactid> <version>1.0-snapshot</version> <properties> <java.version>1.8</java.version> <spring-boot.version>2.6.3</spring-boot.version> <spring-cloud-alibaba.version>2021.0.1.0</spring-cloud-alibaba.version> </properties> <dependencymanagement> <dependencies> <!-- spring boot 依赖管理 --> <dependency> <groupid>org.springframework.boot</groupid> <artifactid>spring-boot-dependencies</artifactid> <version>${spring-boot.version}</version> <type>pom</type> <scope>import</scope> </dependency> <!-- spring cloud alibaba 依赖管理 --> <dependency> <groupid>com.alibaba.cloud</groupid> <artifactid>spring-cloud-alibaba-dependencies</artifactid> <version>${spring-cloud-alibaba.version}</version> <type>pom</type> <scope>import</scope> </dependency> </dependencies> </dependencymanagement> <dependencies> <!-- spring boot web --> <dependency> <groupid>org.springframework.boot</groupid> <artifactid>spring-boot-starter-web</artifactid> </dependency> <!-- sentinel 依赖 --> <dependency> <groupid>com.alibaba.cloud</groupid> <artifactid>spring-cloud-starter-alibaba-sentinel</artifactid> </dependency> <!-- lombok --> <dependency> <groupid>org.projectlombok</groupid> <artifactid>lombok</artifactid> <optional>true</optional> </dependency> </dependencies> <build> <plugins> <plugin> <groupid>org.springframework.boot</groupid> <artifactid>spring-boot-maven-plugin</artifactid> <version>${spring-boot.version}</version> <configuration> <excludes> <exclude> <groupid>org.projectlombok</groupid> <artifactid>lombok</artifactid> </exclude> </excludes> </configuration> </plugin> </plugins> </build> </project>
4.3 应用配置文件
# application.properties spring.application.name=sentinel-demo server.port=8080 # sentinel 控制台地址 spring.cloud.sentinel.transport.dashboard=localhost:8080 # 取消sentinel控制台懒加载 spring.cloud.sentinel.eager=true # 设置应用与sentinel控制台的心跳间隔时间 spring.cloud.sentinel.transport.heartbeat-interval-ms=3000
4.4 sentinel配置类
package com.example.config; import com.alibaba.csp.sentinel.annotation.aspectj.sentinelresourceaspect; import org.springframework.context.annotation.bean; import org.springframework.context.annotation.configuration; /** * sentinel配置类 * 注册sentinelresourceaspect,用于支持@sentinelresource注解 */ @configuration public class sentinelconfig { @bean public sentinelresourceaspect sentinelresourceaspect() { return new sentinelresourceaspect(); } }
4.5 服务类
package com.example.service; import com.alibaba.csp.sentinel.annotation.sentinelresource; import com.alibaba.csp.sentinel.slots.block.blockexception; import org.springframework.stereotype.service; /** * 业务服务类 * 使用@sentinelresource注解定义资源点 */ @service public class helloservice { /** * 定义一个资源点,指定blockhandler处理限流异常 * @param name 参数 * @return 返回结果 */ @sentinelresource(value = "sayhello", blockhandler = "sayhelloexceptionhandler") public string sayhello(string name) { return "hello, " + name; } /** * 定义一个资源点,同时指定blockhandler和fallback * blockhandler: 处理限流异常 * fallback: 处理业务异常 * @param name 参数 * @return 返回结果 */ @sentinelresource(value = "circuitbreaker", fallback = "circuitbreakerfallback", blockhandler = "sayhelloexceptionhandler") public string circuitbreaker(string name) { // 模拟业务逻辑,当name为"test"时抛出异常 if ("test".equals(name)) { return "hello, " + name; } throw new runtimeexception("发生异常"); } /** * 熔断降级处理方法,处理业务异常 * @param name 参数 * @return 降级返回结果 */ public string circuitbreakerfallback(string name) { return "服务异常,熔断降级,请稍后重试!"; } /** * 限流降级处理方法,处理限流异常 * @param name 参数 * @param ex 限流异常 * @return 限流返回结果 */ public string sayhelloexceptionhandler(string name, blockexception ex) { return "访问过快,限流降级,请稍后重试!"; } }
4.6 控制器类
package com.example.controller; import com.example.service.helloservice; import org.springframework.beans.factory.annotation.autowired; import org.springframework.web.bind.annotation.getmapping; import org.springframework.web.bind.annotation.requestmapping; import org.springframework.web.bind.annotation.requestparam; import org.springframework.web.bind.annotation.restcontroller; /** * 测试sentinel的控制器 */ @restcontroller @requestmapping("/sentinel") public class testsentinelcontroller { @autowired private helloservice helloservice; /** * 测试限流功能 * @param name 参数 * @return 返回结果 */ @getmapping("/hello") public string hello(@requestparam("name") string name) { return helloservice.sayhello(name); } /** * 测试熔断功能 * @param name 参数 * @return 返回结果 */ @getmapping("/circuit") public string circuitbreaker(@requestparam("name") string name) { return helloservice.circuitbreaker(name); } }
4.7 应用启动类
package com.example; import org.springframework.boot.springapplication; import org.springframework.boot.autoconfigure.springbootapplication; /** * sentinel示例应用启动类 */ @springbootapplication public class sentinelapplication { public static void main(string[] args) { springapplication.run(sentinelapplication.class, args); } }
4.8 运行与测试
4.8.1 下载并启动sentinel控制台
下载sentinel控制台jar包:
wget https://github.com/alibaba/sentinel/releases/download/1.8.6/sentinel-dashboard-1.8.6.jar
启动sentinel控制台:
java -dserver.port=8080 -jar sentinel-dashboard-1.8.6.jar
访问sentinel控制台:
http://localhost:8080
默认用户名和密码都是:sentinel
4.8.2 启动springboot应用
启动应用:
mvn spring-boot:run
测试限流功能:
http://localhost:8080/sentinel/hello?name=world
测试熔断功能:
http://localhost:8080/sentinel/circuit?name=test
http://localhost:8080/sentinel/circuit?name=other
4.8.3 在sentinel控制台配置规则
登录sentinel控制台后,可以看到应用已经注册到控制台
配置流控规则:
- 点击"簇点链路",找到"sayhello"资源
- 点击"流控"按钮,设置qps阈值为5
- 保存规则
配置熔断规则:
- 点击"簇点链路",找到"circuitbreaker"资源
- 点击"降级"按钮,设置异常比例阈值为0.5,时间窗口为10s
- 保存规则
测试规则效果:
- 快速刷新限流接口,当qps超过5时,会触发限流
- 多次访问熔断接口并传入非"test"参数,当异常比例超过50%时,会触发熔断
4.9 高级配置
4.9.1 持久化规则配置
sentinel支持多种数据源来持久化规则配置,以下是使用文件配置的示例:
# 配置sentinel规则持久化到文件 spring.cloud.sentinel.datasource.ds1.file.file=classpath:sentinel/flow-rule.json spring.cloud.sentinel.datasource.ds1.file.data-type=json spring.cloud.sentinel.datasource.ds1.file.rule-type=flow spring.cloud.sentinel.datasource.ds2.file.file=classpath:sentinel/degrade-rule.json spring.cloud.sentinel.datasource.ds2.file.data-type=json spring.cloud.sentinel.datasource.ds2.file.rule-type=degrade
4.9.2 nacos配置中心持久化
# 配置sentinel规则持久化到nacos spring.cloud.sentinel.datasource.ds1.nacos.server-addr=localhost:8848 spring.cloud.sentinel.datasource.ds1.nacos.data-id=sentinel-flow-rules spring.cloud.sentinel.datasource.ds1.nacos.group-id=sentinel_group spring.cloud.sentinel.datasource.ds1.nacos.data-type=json spring.cloud.sentinel.datasource.ds1.nacos.rule-type=flow spring.cloud.sentinel.datasource.ds2.nacos.server-addr=localhost:8848 spring.cloud.sentinel.datasource.ds2.nacos.data-id=sentinel-degrade-rules spring.cloud.sentinel.datasource.ds2.nacos.group-id=sentinel_group spring.cloud.sentinel.datasource.ds2.nacos.data-type=json spring.cloud.sentinel.datasource.ds2.nacos.rule-type=degrade
4.9.3 自定义全局异常处理
package com.example.config; import com.alibaba.csp.sentinel.adapter.spring.webmvc.callback.blockexceptionhandler; import com.alibaba.csp.sentinel.slots.block.blockexception; import com.alibaba.csp.sentinel.slots.block.authority.authorityexception; import com.alibaba.csp.sentinel.slots.block.degrade.degradeexception; import com.alibaba.csp.sentinel.slots.block.flow.flowexception; import com.alibaba.csp.sentinel.slots.block.flow.param.paramflowexception; import com.alibaba.csp.sentinel.slots.system.systemblockexception; import com.fasterxml.jackson.databind.objectmapper; import org.springframework.context.annotation.configuration; import org.springframework.http.mediatype; import javax.servlet.http.httpservletrequest; import javax.servlet.http.httpservletresponse; import java.io.printwriter; import java.util.hashmap; import java.util.map; /** * 自定义sentinel全局异常处理 */ @configuration public class sentinelblockexceptionhandler implements blockexceptionhandler { @override public void handle(httpservletrequest request, httpservletresponse response, blockexception e) throws exception { // 设置响应类型 response.setstatus(429); response.setcontenttype(mediatype.application_json_value); response.setcharacterencoding("utf-8"); map<string, object> result = new hashmap<>(); result.put("code", 429); result.put("success", false); if (e instanceof flowexception) { result.put("message", "请求被限流了"); } else if (e instanceof degradeexception) { result.put("message", "请求被降级了"); } else if (e instanceof paramflowexception) { result.put("message", "热点参数限流"); } else if (e instanceof systemblockexception) { result.put("message", "系统规则限制"); } else if (e instanceof authorityexception) { result.put("message", "授权规则不通过"); } else { result.put("message", "未知限流降级"); } // 返回json数据 printwriter out = response.getwriter(); out.write(new objectmapper().writevalueasstring(result)); out.flush(); out.close(); } }
五、总结
本文详细介绍了sentinel的核心原理和基本功能点,包括流量控制、熔断降级、热点参数限流、系统自适应限流等,并提供了一个完整的springboot整合sentinel的案例。
sentinel作为一个面向分布式服务架构的流量控制组件,在微服务架构中扮演着重要的角色。它不仅提供了丰富的流量控制策略,还提供了实时的监控功能,可以帮助开发者更好地了解服务的运行情况,及时发现和解决问题。
在实际应用中,我们可以根据业务需求,灵活配置sentinel的各种规则,以达到最佳的保护效果。同时,sentinel还提供了多种规则持久化的方式,可以方便地将规则存储到配置中心,实现规则的动态更新。
参考资料
到此这篇关于sentinel原理与springboot整合实战案例讲解的文章就介绍到这了,更多相关springboot整合sentinel内容请搜索代码网以前的文章或继续浏览下面的相关文章希望大家以后多多支持代码网!
发表评论