有限时令牌桶限流算法：10分钟入门

2023-10-15 14:41:29

令牌桶限流算法：守护分布式系统稳定性的关键策略

分布式系统在现代互联网架构中无处不在，它们使我们能够构建弹性且可扩展的应用程序。然而，管理这些系统中的流量至关重要，以防止过载和停机。这就是限流算法发挥作用的地方。

令牌桶限流算法：简明扼要的入门指南

令牌桶限流算法是一种广泛用于分布式系统中的技术，用于控制流量并确保系统的稳定性。想象一下一个桶，其中装满了令牌，每个令牌代表系统处理请求的能力。当系统收到请求时，它会从令牌桶中获取一个令牌。如果没有可用的令牌，请求将被拒绝，直到令牌被补充为止。

如何利用令牌桶限流算法构建稳定可靠的系统

在 Java 中实现令牌桶限流算法涉及三个关键步骤：

定义注解： 创建一个注解来表示限流规则，例如 @RateLimit(value)，其中 value 指定要为该端点分配的令牌数。
创建限流拦截器： 拦截所有请求并检查是否有可用令牌。如果没有令牌可用，请求将被拒绝并返回 HTTP 429（太多请求）响应。
配置限流拦截器： 在 Spring Boot 配置文件中配置限流拦截器，并创建 RateLimiter bean 来管理令牌桶。

代码示例：

// 自定义限流注解
@Retention(RetentionPolicy.RUNTIME)
@Target(ElementType.METHOD)
public @interface RateLimit {
    int value() default 100;
}

// 限流拦截器
public class RateLimitInterceptor implements HandlerInterceptor {
    @Override
    public boolean preHandle(HttpServletRequest request, HttpServletResponse response, Object handler) {
        // 从注解中获取限流值
        RateLimit rateLimit = ((HandlerMethod) handler).getMethodAnnotation(RateLimit.class);
        if (rateLimit == null) {
            return true; // 没有限流注解，直接放行
        }

        String key = request.getRequestURI(); // 使用请求 URI 作为限流 key
        int limit = rateLimit.value(); // 获取限流值

        // 获取限流器
        RateLimiter rateLimiter = rateLimiter();

        // 尝试获取令牌，成功则放行，失败则返回 429
        if (rateLimiter.acquire(key, limit)) {
            return true;
        } else {
            response.setStatus(429);
            return false;
        }
    }
}

// 限流器，负责管理令牌桶
public class RateLimiter {
    private ConcurrentHashMap<String, TokenBucket> tokenBuckets = new ConcurrentHashMap<>();

    public boolean acquire(String key, int limit) {
        // 获取或创建令牌桶
        TokenBucket tokenBucket = tokenBuckets.getOrDefault(key, new TokenBucket(limit));

        // 尝试获取令牌
        return tokenBucket.acquire();
    }
}

// 令牌桶，负责管理令牌的产生和消耗
public class TokenBucket {
    private int limit; // 令牌桶容量
    private AtomicInteger tokens; // 当前令牌数
    private long lastRefillTimestamp; // 上次补充令牌的时间戳

    public TokenBucket(int limit) {
        this.limit = limit;
        this.tokens = new AtomicInteger(limit);
        this.lastRefillTimestamp = System.currentTimeMillis();
    }

    public boolean acquire() {
        // 补充令牌（每秒补充一个令牌）
        long now = System.currentTimeMillis();
        long refillInterval = now - lastRefillTimestamp;
        int refillCount = (int) (refillInterval / 1000); // 每秒补充一个令牌
        tokens.addAndGet(refillCount);
        lastRefillTimestamp = now;

        // 尝试获取令牌
        return tokens.decrementAndGet() >= 0;
    }
}