APP下载
报价宝  ›  科技  › 

百度架构师分享源代码实战篇:通过分散式系统解决限流问题

报价宝 来源:baojiabao.com 发布时间:2019-07-30 22:48:00 11月18日更新
报价宝综合消息百度架构师分享源代码实战篇:通过分散式系统解决限流问题

来源:http://dwz.win/dmj

在分散式领域,我们难免会遇到并发量突增,对后端服务造成高压力,严重甚至会导致系统宕机。为避免这种问题,我们通常会为界面新增限流、降级、熔断等能力,从而使界面更为健壮。Java领域常见的开源元件有Netflix的hystrix,阿里系开源的sentinel等,都是蛮不错的限流熔断框架。

今天我们就基于Redis元件的特性,实现一个分散式限流元件,名字就定为shield-ratelimiter。

原理

首先解释下为何采用Redis作为限流元件的核心。

通俗地讲,假设一个使用者(用IP判断)每秒访问某服务界面的次数不能超过10次,那么我们可以在Redis中建立一个键,并设定键的过期时间为60秒。

当一个使用者对此服务界面发起一次访问就把键值加1,在单位时间(此处为1s)内当键值增加到10的时候,就禁止访问服务界面。PS:在某种场景中新增访问时间间隔还是很有必要的。我们本次不考虑间隔时间,只关注单位时间内的访问次数。

需求

原理已经讲过了,说下需求。

1、基于Redis的incr及过期机制开发 2、呼叫方便,宣告式 3、Spring支援

基于上述需求,我们决定基于注解方式进行核心功能开发,基于Spring-boot-starter作为基础环境,从而能够很好的适配Spring环境。

另外,在本次开发中,我们不通过简单的呼叫Redis的java类库API实现对Redis的incr操作。

原因在于,我们要保证整个限流的操作是原子性的,如果用Java程式码去做操作及判断,会有并发问题。这里我决定采用Lua指令码进行核心逻辑的定义。

为何使用Lua

在正式开发前,我简单介绍下对Redis的操作中,为何推荐使用Lua指令码。

1、减少网络开销: 不使用 Lua 的程式码需要向 Redis 传送多次请求, 而指令码只需一次即可, 减少网络传输; 2、原子操作: Redis 将整个指令码作为一个原子执行, 无需担心并发, 也就无需事务; 3、复用: 指令码会永久储存 Redis 中, 其他客户端可继续使用.

Redis添加了对Lua的支援,能够很好的满足原子性、事务性的支援,让我们免去了很多的异常逻辑处理。对于Lua的语法不是本文的主要内容,

正式开发

到这里,我们正式开始手写限流元件的程序。

1. 工程定义

专案基于maven构建,主要依赖Spring-boot-starter,我们主要在springboot上进行开发,因此自定义的开发包可以直接依赖下面这个座标,方便进行包管理。版本号自行选择稳定版。

2. Redis整合

由于我们是基于Redis进行的限流操作,因此需要整合Redis的类库,上面已经讲到,我们是基于Springboot进行的开发,因此这里可以直接整合RedisTemplate。

2.1 座标引入

这里我们引入spring-boot-starter-redis的依赖。

2.2 注入CacheManager及RedisTemplate

新建一个Redis的配置类,命名为RedisCacheConfig,使用javaconfig形式注入CacheManager及RedisTemplate。为了操作方便,我们采用了Jackson进行序列化。程式码如下

注意要使用@Configuration 标注此类为一个配置类,当然你可以使用@Component , 但是不推荐,原因在于@Component 注解虽然也可以当作配置类,但是并不会为其生成CGLIB代理Class,而使用@Configuration ,CGLIB会为其生成代理类,进行效能的提升。

2.3 呼叫方application.propertie需要增加Redis配置

我们的包开发完毕之后,呼叫方的application.properties需要进行相关配置如下:

如果有密码的话,配置password即可。

这里为单机配置,如果需要支援哨兵丛集,则配置如下,Java程式码不需要改动,只需要变动配置即可。注意 两种配置不能共存!

3. 定义注解

为了呼叫方便,我们定义一个名为RateLimiter 的注解,内容如下

该注解明确只用于方法,主要有三个属性。

1、key–表示限流模组名,指定该值用于区分不同应用,不同场景,推荐格式为:应用名:模组名:ip:界面名:方法名 2、limit–表示单位时间允许通过的请求数 3、expire–incr的值的过期时间,业务中表示限流的单位时间。

4. 解析注解

定义好注解后,需要开发注解使用的切面,这里我们直接使用aspectj进行切面的开发。先看程式码

这里是注入了RedisTemplate,使用其API进行Lua指令码的呼叫。

init() 方法在应用启动时会初始化DefaultRedisScript,并载入Lua指令码,方便进行呼叫。

PS: Lua指令码放置在classpath下,通过ClassPathResource进行载入。

这里我们定义了一个切点,表示只要注解了@RateLimiter 的方法,均可以触发限流操作。

这段程式码的逻辑为,获取 @RateLimiter 注解配置的属性:key、limit、expire,并通过redisTemplate.execute(RedisScriptscript,Listkeys,Object…args) 方法传递给Lua指令码进行限流相关操作,逻辑很清晰。

这里我们定义如果指令码返回状态为0则为触发限流,1表示正常请求。

5. Lua指令码

这里是我们整个限流操作的核心,通过执行一个Lua指令码进行限流的操作。指令码内容如下

逻辑很通俗,我简单介绍下。

1、首先指令码获取Java程式码中传递而来的要限流的模组的key,不同的模组key值一定不能相同,否则会覆盖!2、redis.call(‘incr’, key1)对传入的key做incr操作,如果key首次生成,设定超时时间ARGV[1];(初始值为1) 3、ttl是为防止某些key在未设定超时时间并长时间已经存在的情况下做的保护的判断;4、每次请求都会做+1操作,当限流的值val大于我们注解的阈值,则返回0表示已经超过请求限制,触发限流。否则为正常请求。

当过期后,又是新的一轮循环,整个过程是一个原子性的操作,能够保证单位时间不会超过我们预设的请求阈值。

到这里我们便可以在专案中进行测试。

测试

这里我贴一下核心程式码,我们定义一个界面,并注解@RateLimiter(key=“ratedemo:1.0.0”,limit=5,expire=100) 表示模组ratedemo:sendPayment:1.0.0 在100s内允许通过5个请求,这里的引数设定是为了方便看结果。实际中,我们通常会设定1s内允许通过的次数。

我们通过RestClient请求界面,日志返回如下:

根据日志能够看到,正常请求5次后,返回限流触发,说明我们的逻辑生效,对前端而言也是可以看到false标记,表明我们的Lua指令码限流逻辑是正确的,这里具体返回什么标记需要呼叫方进行明确的定义。

总结

我们通过Redis的incr及expire功能特性,开发定义了一套基于注解的分散式限流操作,核心逻辑基于Lua保证了原子性。达到了很好的限流的目的,生产上,可以基于该特点进行定制自己的限流元件,当然你可以参考本文的程式码,相信你写的一定比我的demo更好!

end:如果你觉得本文对你有帮助的话,记得关注点赞转发,你的支援就是我更新动力。

文章标签: 报价宝 降噪耳机价格 耳机价格 红米手机价格 华为手机价格 小米手机价格 电视机价格 笔记本电脑价格 笔记本价格 汽车价格 数码相机价格 汽车价格 红米手机价格 耳机价格 降噪耳机价格