身为程序员，掌握限流的技巧，事半功倍！
2023-10-08 19:05:55
秒杀系统中的限流技术
限流的必要性
在瞬息万变的网络世界中，应对突发流量至关重要。特别是对于电子商务平台而言，秒杀活动会吸引大量用户同时访问网站，如果处理不当，轻则系统崩溃，重则造成不可挽回的损失。限流技术的出现，正是为了在流量高峰期保护系统，确保稳定运行。
限流的类型
阿里程序员将限流分为两类：
1. 本地限流
本地限流是在单个服务器上进行的。常用的算法包括令牌桶算法和滑动窗口算法。令牌桶算法就好比一个水桶，每隔一段时间往桶中丢入一定数量的令牌，用户每次请求都需要消耗一个令牌。当桶中令牌不足时，请求就会被拒绝。滑动窗口算法则将时间窗口划分为多个小时间片，每个时间片内允许通过一定数量的请求。
2. 分布式限流
分布式限流是在多个服务器上进行的。常用的算法包括分布式令牌桶算法和分布式滑动窗口算法。分布式令牌桶算法通过在多个服务器之间共享令牌桶，实现限流的分布式管理。分布式滑动窗口算法则通过在多个服务器之间共享滑动窗口，实现限流的分布式控制。
阿里程序员的限流实践
阿里程序员在实际工作中积累了丰富的限流经验，总结出以下原则：
1. 选择合适的算法
根据系统特点和业务需求选择合适的限流算法。例如，如果系统需要处理突发流量，可以使用令牌桶算法。如果系统需要处理持续的流量，可以使用滑动窗口算法。
2. 设置合理的限流阈值
限流阈值需要根据系统的实际承受能力设置。阈值过低会频繁触发限流，影响系统性能。阈值过高则可能导致系统超载，影响系统稳定性。
3. 监控限流情况
实时监控限流情况，及时发现限流问题，并调整限流阈值。可以通过日志记录、指标监控等手段实现限流监控。
Redis与MySQL在秒杀系统中的应用
除了限流技术，Redis和MySQL也在秒杀系统中发挥着至关重要的作用。Redis是一个内存数据库，具有超高的读写速度，非常适合用于缓存商品信息。MySQL是一个关系型数据库，具有强大的存储能力，非常适合用于存储用户订单等持久化数据。在秒杀系统中，商品信息通常会缓存到Redis中，当用户访问商品详情页面时，系统会先从Redis中读取商品信息，如果Redis中没有商品信息，系统再从MySQL中读取。
代码示例：
// 本地令牌桶限流
public class TokenBucketLimiter {
private int capacity; // 令牌桶容量
private int rate; // 令牌产生速率（每秒产生多少令牌）
private int count; // 当前令牌数量
private long lastTimestamp; // 上次产生令牌的时间戳
public TokenBucketLimiter(int capacity, int rate) {
this.capacity = capacity;
this.rate = rate;
this.count = capacity;
this.lastTimestamp = System.currentTimeMillis();
}
public boolean tryAcquire() {
long now = System.currentTimeMillis();
long elapsed = now - lastTimestamp; // 过去的时间
lastTimestamp = now;
// 计算可以产生的令牌数量
count += elapsed * rate / 1000;
if (count > capacity) {
count = capacity;
}
// 尝试获取令牌
if (count > 0) {
count--;
return true;
}
return false;
}
}
分布式令牌桶限流
// 分布式令牌桶限流
public class DistributedTokenBucketLimiter {
private ZooKeeper zk; // ZooKeeper客户端
private String path; // ZooKeeper节点路径
private int capacity; // 令牌桶容量
private int rate; // 令牌产生速率（每秒产生多少令牌）
private int count; // 当前令牌数量
private long lastTimestamp; // 上次产生令牌的时间戳
public DistributedTokenBucketLimiter(String path, int capacity, int rate) throws Exception {
this.zk = new ZooKeeper("localhost:2181", 60000, null);
this.path = path;
this.capacity = capacity;
this.rate = rate;
this.count = capacity;
this.lastTimestamp = System.currentTimeMillis();
if (!zk.exists(path, false)) {
zk.create(path, null, ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.PERSISTENT);
}
}
public boolean tryAcquire() throws Exception {
long now = System.currentTimeMillis();
long elapsed = now - lastTimestamp; // 过去的时间
lastTimestamp = now;
// 计算可以产生的令牌数量
count += elapsed * rate / 1000;
if (count > capacity) {
count = capacity;
}
// 尝试获取令牌
if (count > 0) {
count--;
zk.setData(path, String.valueOf(count).getBytes(), -1);
return true;
}
return false;
}
}
常见问题解答
-
限流算法有哪些？
答：常见的限流算法包括令牌桶算法、滑动窗口算法、分布式令牌桶算法、分布式滑动窗口算法等。 -
如何设置合理的限流阈值？
答：限流阈值需要根据系统的实际承受能力设置，可以通过压力测试等手段确定。 -
如何监控限流情况？
答：可以通过日志记录、指标监控等手段实现限流监控。 -
Redis和MySQL在秒杀系统中扮演什么角色？
答：Redis用于缓存商品信息，MySQL用于存储用户订单等持久化数据。 -
分布式限流和本地限流有什么区别？
答：分布式限流是在多个服务器上进行限流，本地限流是在单个服务器上进行限流。分布式限流可以更好地应对大规模流量，本地限流可以更灵活地控制单个服务器上的资源消耗。
