避免并发重复请求：缓存击穿不是病，singleflight来帮忙
2023-11-05 13:43:14
缓存击穿：高并发场景中的隐形杀手
缓存击穿的含义
缓存击穿是指当特定数据缺失于缓存中时，每次请求该数据都会直接穿透缓存层，导致请求直接命中数据库。在高并发场景下，这种现象会对数据库造成极大压力，甚至可能导致数据库崩溃。
缓存击穿的原因
缓存击穿的根源通常在于缓存过期。当缓存过期后，该数据便会从缓存中清除。此时，所有后续请求都将直接访问数据库，导致数据库不堪重负。
如何防范缓存击穿？
引入 Singleflight 机制
Singleflight 是一个 Golang 库，专门用于解决并发请求重复执行的问题。其原理在于：当多个 goroutine 并发请求同一个资源时，Singleflight 会指派其中一个 goroutine 去获取资源，而其他 goroutine 则等待该 goroutine 返回结果。这种机制有效地避免了并发重复请求，从而减轻了数据库压力。
Singleflight 的使用
使用 Singleflight 非常简单，只需导入 "github.com/golang/groupcache/singleflight" 即可。以下代码示例演示了 Singleflight 的使用方法：
import (
"context"
"fmt"
"time"
"github.com/golang/groupcache/singleflight"
)
func main() {
var sf singleflight.Group
ctx := context.Background()
// 发起 10 个并发请求
for i := 0; i < 10; i++ {
go func(i int) {
// 使用 Singleflight 获取资源
v, err, _ := sf.Do(ctx, "key", func() (interface{}, error) {
// 模拟从数据库获取数据
time.Sleep(100 * time.Millisecond)
return i, nil
})
if err != nil {
fmt.Println(err)
return
}
fmt.Println(v)
}(i)
}
// 等待所有 goroutine 执行完成
time.Sleep(1 * time.Second)
}
在该示例中，虽然同时发起了 10 个并发请求，但实际上只有 1 个请求真正执行了。其他请求都被 Singleflight 阻止，有效地避免了并发重复请求。
总结
Singleflight 是一个有力的工具，可以帮助我们避免缓存击穿，保护数据库免遭高并发请求的冲击。在高并发场景下，使用 Singleflight 可以显著提升系统性能，确保数据库稳定运行。
常见问题解答
1. 除了 Singleflight，还有其他防范缓存击穿的方法吗？
答：是的，还有其他方法，例如：
- 使用互斥锁：在获取数据之前，使用互斥锁阻止并发请求。
- 使用分布式锁：使用 Redis 等分布式锁机制，确保只有一个 goroutine 能够获取数据。
- 使用容量控制：限制同时访问缓存的请求数量，避免缓存过载。
2. Singleflight 的优点是什么？
答：Singleflight 的优点包括：
- 简单易用：只需导入库并使用 Do 函数即可。
- 高效：Singleflight 使用原子操作和 goroutine 来实现并发控制，高效且无锁。
- 可扩展：Singleflight 可以处理任意数量的并发请求。
3. Singleflight 的缺点是什么？
答：Singleflight 的缺点包括：
- 增加延迟：使用 Singleflight 会引入一些延迟，因为需要等待 goroutine 返回结果。
- 内存消耗：Singleflight 需要存储正在进行的请求的状态，这可能占用大量的内存。
4. 缓存击穿只发生在高并发场景吗？
答：不一定，即使在低并发场景中，如果缓存过期速度很快，也可能发生缓存击穿。
5. 如何监控缓存击穿？
答：可以通过以下指标监控缓存击穿：
- 缓存命中率：缓存命中率下降可能表明缓存击穿。
- 数据库请求量：如果数据库请求量突然增加，可能是缓存击穿导致的。
- 数据库响应时间：如果数据库响应时间变慢，也可能是缓存击穿导致的。
