多发并发并发编程：multiflight——singleflight 进化设计

后端

2023-09-30 02:38:02

技术博客写作提示：

前言

在软件开发中，缓存是一项非常重要的技术，它可以有效地提高系统的性能和响应速度。但在使用缓存时，我们需要面临一些问题，比如“缓存击穿”和“缓存雪崩”。

缓存击穿

缓存击穿是指当缓存中没有某个数据时，多个请求同时查询该数据，导致数据库或其他数据源不堪重负，造成系统崩溃。

缓存雪崩

缓存雪崩是指当缓存中的一大批数据同时失效时，导致大量请求同时查询数据库或其他数据源，造成系统崩溃。

multiflight

multiflight 是一个 Golang 库，它可以有效地防止“缓存击穿”和“缓存雪崩”问题。multiflight 的设计理念是将多个请求聚合为一个请求，然后并行地执行这个请求。当请求完成时，multiflight 会将结果缓存起来，以便后续的请求可以直接从缓存中获取结果。

multiflight 的优点

multiflight 相比于其他缓存库，具有以下优点：

可以有效地防止“缓存击穿”和“缓存雪崩”问题。
可以提高缓存的利用率。
使用简单，易于理解。

multiflight 的工作原理

multiflight 的工作原理如下：

当一个请求到达时，multiflight 会检查缓存中是否已经存在该请求的结果。
如果缓存中没有该请求的结果，multiflight 会创建一个新的 Goroutine 来执行该请求。
当 Goroutine 执行完成后，multiflight 会将结果缓存起来，以便后续的请求可以直接从缓存中获取结果。
如果有多个请求同时查询同一个数据，multiflight 会将这些请求聚合为一个请求，然后并行地执行这个请求。

multiflight 的代码示例

package main

import (
	"context"
	"fmt"
	"log"
	"sync"
	"time"

	"github.com/golang/groupcache/singleflight"
)

// 定义一个结构体来存储缓存的数据
type CacheItem struct {
	Key   string
	Value string
}

// 定义一个全局的缓存变量
var cache = singleflight.Group{}

// 定义一个函数来获取缓存中的数据
func GetCacheItem(key string) (*CacheItem, error) {
	// 使用 singleflight 来获取缓存中的数据
	item, err := cache.Do(key, func() (interface{}, error) {
		// 模拟从数据库中获取数据
		time.Sleep(time.Second)
		return &CacheItem{
			Key:   key,
			Value: "value for " + key,
		}, nil
	})
	if err != nil {
		return nil, err
	}

	// 将数据类型转换为 *CacheItem 类型
	return item.(*CacheItem), nil
}

func main() {
	// 定义一个WaitGroup来等待所有Goroutine执行完成
	var wg sync.WaitGroup

	// 启动10个Goroutine并发获取缓存中的数据
	for i := 0; i < 10; i++ {
		wg.Add(1)
		go func(i int) {
			defer wg.Done()

			// 获取缓存中的数据
			item, err := GetCacheItem(fmt.Sprintf("key-%d", i))
			if err != nil {
				log.Fatal(err)
			}

			// 打印缓存中的数据
			fmt.Printf("Goroutine %d: %+v\n", i, item)
		}(i)
	}

	// 等待所有Goroutine执行完成
	wg.Wait()
}