什么是缓存击穿、缓存穿透、缓存雪崩、缓存预热？

一、缓存雪崩

通常我们为了保证缓存中的数据与数据库中的数据一致性，会给 Redis 里的数据设置过期时间，当缓存数据过期后，用户访问的数据如果不在缓存里，业务系统需要重新生成缓存，因此就会访问数据库，并将数据更新到 Redis 里，这样后续请求都可以直接命中缓存。

那么，当大量缓存数据在同一时间过期（失效）或者 Redis 故障宕机时，如果此时有大量的用户请求，都无法在 Redis 中处理，于是全部请求都直接访问数据库，从而导致数据库的压力骤增，严重的会造成数据库宕机，从而形成一系列连锁反应，造成整个系统崩溃，这就是缓存雪崩的问题。

3.1 产生原因

1. 大量数据同时过期；
2. Redis 故障宕机。

3.2 应对方案

大量数据同时过期的情况：

• 均匀设置过期时间；

  如果要给缓存数据设置过期时间，应该避免将大量的数据设置成同一个过期时间。我们可以在对缓存数据设置过期时间时，给这些数据的过期时间加上一个随机数，这样就保证数据不会在同一时间过期。

• 互斥锁；

  当业务线程在处理用户请求时，如果发现访问的数据不在 Redis 里，就加个互斥锁，保证同一时间内只有一个请求来构建缓存（从数据库读取数据，再将数据更新到 Redis 里），当缓存构建完成后，再释放锁。未能获取互斥锁的请求，要么等待锁释放后重新读取缓存，要么就返回空值或者默认值。

• 后台更新缓存；

  业务线程不再负责更新缓存，缓存也不设置有效期，而是让缓存“永久有效”，并将更新缓存的工作交由后台线程定时更新。（可以通过后台线程定时检测并更新缓存，也可以通过业务线程发送通知给后台线程更新线程）

Redis 故障宕机的情况：

• 服务熔断或请求限流机制；

  因为 Redis 故障宕机而导致缓存雪崩问题时，我们可以启动服务熔断机制，暂停业务应用对缓存服务的访问，直接返回错误，不用再继续访问数据库，从而降低对数据库的访问压力，保证数据库系统的正常运行，然后等到 Redis 恢复正常后，再允许业务应用访问缓存服务。

  为了减少对业务的影响，我们可以启用请求限流机制，只将少部分请求发送到数据库进行处理，再多的请求就在入口直接拒绝服务，等到 Redis 恢复正常并把缓存预热完后，再解除请求限流的机制。

• 构建 Redis 缓存高可靠集群；

  服务熔断或请求限流机制是缓存雪崩发生后的应对方案，我们最好通过主从节点的方式构建 Redis 缓存高可靠集群。

二、缓存击穿

我们的业务通常会有几个数据会被频繁地访问，比如秒杀活动，这类被频地访问的数据被称为热点数据。如果缓存中的某个热点数据过期了，此时大量的请求访问了该热点数据，就无法从缓存中读取，直接访问数据库，数据库很容易就被高并发的请求冲垮，这就是缓存击穿的问题。

注：可以发现缓存击穿跟缓存雪崩很相似，你可以认为缓存击穿是缓存雪崩的一个子集。

1.1 产生原因

1. 热点数据过期；

1.2 应对方案

• 互斥锁方案，保证同一时间只有一个业务线程更新缓存，未能获取互斥锁的请求，要么等待锁释放后重新读取缓存，要么就返回空值或者默认值；
• 不给热点数据设置过期时间，由后台异步更新缓存，或者在热点数据准备要过期前，提前通知后台线程更新缓存以及重新设置过期时间。

三、缓存穿透

当发生缓存雪崩或击穿时，数据库中还是保存了应用要访问的数据，一旦缓存恢复相对应的数据，就可以减轻数据库的压力，而缓存穿透就不一样了。

当用户访问的数据，既不在缓存中，也不在数据库中，导致请求在访问缓存时，发现缓存缺失，再去访问数据库时，发现数据库中也没有要访问的数据，没办法构建缓存数据，来服务后续的请求。那么当有大量这样的请求到来时，数据库的压力骤增，这就是缓存穿透的问题。

2.1 产生原因

1. 用户访问的数据既不在缓存中，也不在数据库中；（可能是业务误操作把数据误删除了，也可能是恶意访问业务不存在的数据）

2.2 应对方案

• 非法请求的限制；

  当有大量恶意请求访问不存在的数据的时候，也会发生缓存穿透，因此在 API 入口处我们要判断求请求参数是否合理，请求参数是否含有非法值、请求字段是否存在，如果判断出是恶意请求就直接返回错误，避免进一步访问缓存和数据库。

• 缓存空值或者默认值；

  当我们线上业务发现缓存穿透的现象时，可以针对查询的数据，在缓存中设置一个空值或者默认值，这样后续请求就可以从缓存中读取到空值或者默认值，返回给应用，而不会继续查询数据库。

• 使用布隆过滤器快速判断数据是否存在，避免通过查询数据库来判断数据是否存在；

  我们可以在写入数据库数据时，使用布隆过滤器做个标记，然后在用户请求到来时，业务线程确认缓存失效后，可以通过查询布隆过滤器快速判断数据是否存在，如果不存在，就不用通过查询数据库来判断数据是否存在。

  即使发生了缓存穿透，大量请求只会查询 Redis 和布隆过滤器，而不会查询数据库，保证了数据库能正常运行，Redis 自身也是支持布隆过滤器的。

四、缓存预热

缓存预热是计算中使用的一种主动技术，用于在系统实际需要数据之前将数据预加载到缓存中。此过程通过减少延迟并确保数据在请求时随时可用，有助于提高应用程序的性能和速度。缓存预热在从主存储检索数据的时间或计算资源成本较高的系统中特别有用。

4.1 优点

• 减少延迟：通过在缓存中提供随时可用的数据，可以显着减少服务请求所需的时间。
• 改进的用户体验：更快的响应时间可以带来更好的用户体验，特别是在速度至关重要的 Web 应用程序和在线服务中。
• 资源利用效率：缓存预热可以通过减少主存储和网络带宽上的负载来更有效地利用系统资源。
• 可扩展性：对于高流量的应用程序，缓存预热可以帮助随着需求的扩展而保持性能水平。

4.2 挑战

• 预测准确性：准确预测要预加载的数据可能很复杂，并且可能并不总是能产生完美的结果。
• 资源开销：预热缓存的过程本身会消耗资源，如果管理不当，这可能会成为一个缺点。
• 过时的数据：预加载的数据可能会过时，如果基础数据频繁更改，则会导致潜在的不一致。

4.3 解决方案

...

∞、参考链接

• 什么是缓存雪崩、击穿、穿透？
• What is Cache Warming?