高并发系统里的缓存秘籍，让你应对高负荷访问毫不费力

见解分享

2022-11-06 08:56:10

缓存：权衡一致性和效率的读写策略

前言

缓存，作为数据读取和写入的中间存储器，可谓提高系统性能的利器。然而，它的读写策略决定了其一致性和效率的平衡，也决定了其在不同场景中的适用性。本文将深入探讨缓存读写策略，帮助你充分挖掘缓存的潜力，避免潜在的陷阱。

缓存读写策略

缓存读写策略主要有两种：

写后读： 先将数据写入缓存，再写入持久存储。优势在于提高写入速度，但可能牺牲数据一致性，因为如果缓存失效，数据会丢失。
读后写： 先从缓存读取数据，如果没有再从持久存储读取并写入缓存。保证数据一致性，但可能会降低读取速度。

根据场景选择策略

在实际应用中，选择合适的缓存读写策略至关重要。对于数据一致性不敏感的场景，如浏览器的缓存，写后读策略可以带来显著的性能提升。对于数据一致性至上的场景，如电子商务系统，读后写策略是更好的选择。

代码示例：

// 写后读策略
public void writeAfterRead(String key, String value) {
    cache.put(key, value);
    持久化存储.write(key, value);
}

// 读后写策略
public String readAfterWrite(String key) {
    String value = cache.get(key);
    if (value == null) {
        value = 持久化存储.read(key);
        cache.put(key, value);
    }
    return value;
}

常见缓存问题及解决方案

虽然缓存很有用，但如果使用不当也会带来问题：

缓存击穿： 大量请求同时访问不存在于缓存中的数据，导致缓存服务器崩溃。解决方案： 缓存预热，将常用数据提前加载到缓存。
缓存穿透： 不存在于缓存的数据绕过缓存直接访问后端，导致后端不堪重负。解决方案： 使用布隆过滤器或其他技术来过滤无效请求。
缓存雪崩： 大量缓存数据同时失效，导致缓存服务器崩溃。解决方案： 设置不同的缓存过期时间，采用缓存淘汰策略，如 LRU 或 LFU。

代码示例：

// 缓存淘汰策略：LRU
public void lruCache(int capacity) {
    LinkedHashMap<String, String> cache = new LinkedHashMap<>(capacity, 0.75f, true) {
        @Override
        protected boolean removeEldestEntry(Map.Entry<String, String> eldest) {
            return size() > capacity;
        }
    };
}