在 Go 速率限制中掌握 Rate 和 Burst 的微妙关系

2023-09-09 00:29:57

简介

Go 中的速率限制是一个强大的工具，可防止应用程序被淹没。在速率限制库中，rate.NewLimiter 函数扮演着关键角色，它带有两个重要参数：limit 和 burst。理解这两个参数之间的关系对于有效使用速率限制至关重要。

rate.NewLimiter

rate.NewLimiter 函数创建一个新的令牌桶，它以恒定的速率向桶中添加令牌。当请求到达时，它会从桶中获取一个令牌。如果没有可用的令牌，请求将被阻塞，直到令牌可用。

Limit

limit 参数指定桶中的令牌生成速率。它是每秒生成多少个令牌。例如，如果 limit 设置为 10，那么桶中每秒将添加 10 个令牌。

Burst

burst 参数指定桶中可存储的令牌的最大数量。它允许桶在一段时间内超速生成令牌。例如，如果 burst 设置为 20，那么桶中最多可以存储 20 个令牌。

关键关系

limit 和 burst 之间的关键关系是，burst 允许桶在 limit 设置的速率之上生成令牌。 这对于处理突发流量非常有用，因为桶可以临时消耗令牌以处理额外的请求。

示例

以下示例说明了 limit 和 burst 如何协同工作：

import (
    "golang.org/x/time/rate"
)

func main() {
    // 创建每秒生成 10 个令牌的令牌桶，最多可存储 20 个令牌
    limiter := rate.NewLimiter(rate.Limit(10), rate.Burst(20))

    // 尝试获取 15 个令牌
    if err := limiter.Wait(15); err != nil {
        // 由于桶中没有足够的令牌，请求被阻塞
        fmt.Println("Request blocked")
    }

    // 稍后尝试获取 5 个令牌
    if err := limiter.Wait(5); err != nil {
        // 由于桶中没有足够的令牌，请求被阻塞
        fmt.Println("Request blocked")
    }
}