揭秘全局限流背后的真相——RLS服务设计与解决方案

全局限流的必要性
分布式熔断器虽能有效控制分布式系统中的吞吐量，但在某些情况下却效果不佳。当大量主机转发到少量主机且平均请求延迟很短时，熔断器便会失效。原因在于，当请求量激增时，熔断器可能会中断服务的路由，导致请求在大量主机之间频繁切换，从而产生抖动，进一步降低吞吐量。

Rainbond 基于 RLS 服务的全局限流解决方案

Rainbond 基于 RLS 服务设计了全局限流解决方案，该解决方案具有以下特点：

• 独立于熔断器：RLS 服务与熔断器相互独立，不会影响彼此的运行。
• 动态限流：RLS 服务可以根据系统负载情况动态调整限流阈值，保证系统的稳定性和性能。
• 无单点故障：RLS 服务是无状态的，不存在单点故障问题，可以保证系统的可用性。

Envoy 中的 RLS 服务配置

在 Envoy 中，可以轻松配置 RLS 服务。以下是详细的配置步骤：

1. 安装 RLS 服务：首先需要安装 RLS 服务，具体方法请参考 RLS 服务官方文档。
2. 配置 Envoy：在 Envoy 的配置文件中，添加以下配置：

static_rate_limit:
  enabled: true
  staged_warming_up: true
  locality_weighted_stats: true
  max_tokens: 1000
  token_bucket_size: 10000
  fill_interval: 1s

其中，max_tokens 是令牌桶的最大容量，token_bucket_size 是令牌桶的初始容量，fill_interval 是令牌桶的填充时间间隔。

3. 重启 Envoy：配置完成后，需要重启 Envoy 以使其生效。

Rainbond 中的 RLS 服务配置

在 Rainbond 中，可以轻松配置 RLS 服务。以下是详细的配置步骤：

1. 创建 RLS 服务：首先需要创建一个 RLS 服务，方法是：登录 Rainbond 控制台，选择“服务管理”>“RLS 服务”，然后点击“创建服务”。
2. 配置 RLS 服务：在 RLS 服务的配置页面中，设置以下参数：

• 服务名称：RLS 服务的名称。
• 服务地址：RLS 服务的地址。
• 令牌桶容量：RLS 服务的令牌桶容量。
• 令牌桶填充速率：RLS 服务的令牌桶填充速率。

3. 保存配置：配置完成后，点击“保存”按钮。

结论

Rainbond 基于 RLS 服务的全局限流解决方案是一种简单有效的方法，可以解决分布式系统中的全局限流问题。该解决方案易于配置，并且可以与熔断器配合使用，以保证系统的稳定性和性能。