多级缓存

缓存穿透、缓存击穿、缓存雪崩

缓存穿透

缓存穿透是指查询一个根本不存在的数据，缓存层和粗存储层都不会命中，通常处于容错的考虑，如果从存储层查不到数据则不写入缓存层。
缓存穿透将导致不存在的数据每次请求都要到存储查询，失去了缓存保护后端存储的意义。
造成缓存穿透的基本原因有两个：

• 自身业务代码或者数据出现问题。
• 一些恶意攻击，爬虫等造成大量空命中。

缓存穿透问题解决方案：

1. 缓存空对象
   String get(String key) {
//从缓存中获取数据
String cacheValue = cache.get(key);
//缓存为空
if (StringUtils.isBlank(cacheValue)) {
//从存储中获取
String storageValue = storage.get(key);
cache.set(key, storageValue);
//如果存储数据为空，需要设置一个过期时间(300秒)
if (storageValue == null) {
cache.expire(key, 60 * 5);
}
return storageValue; } else { //缓存非空 return cacheValue; } }`

2. 布隆过滤器
   对于恶意攻击，向服务器请求大量不存在的数据造成的缓存穿透，还可以用布隆过滤器先做一次过滤，对于不存在的数据布隆过滤器一般都能够过滤掉，不让请求再往后端发送。当布隆过滤器说某个值存在时，这个值可能不存在；当它说不存在时，那就肯定不存在。
   

缓存击穿（失效）

由于大批量缓存在同一时间失效可能导致大量请求同时穿透缓存直达数据库，可能会造成数据库瞬间压力过大甚至挂掉，对于这种情况，我们在批量增加缓存时最好将这一批数据的缓存过期时间设置为一个时间段内的不同时间。

缓存雪崩

缓存雪崩是指缓存层支撑不住或者宕机后，流量会像奔逃的野牛一样，打向后端存储层。
由于缓存层承载着大量请求，有效的保护了存储层，但是如果缓存层由于某些原因不能提供服务，于是大量的请求都会打到存储层，存储层的调用量会暴增，造成存储层也会级联宕机的情况。
预防和解决缓存雪崩的问题，可以从一下三个方面进行着手：

1. 保证缓存层服务高可用性，比如使用Redis Sentinel或Redis Cluster。
2. 依赖隔离组件为后端限流熔断并降级。比如使用Sentinel或Hystrix限流降级组件。
3. 提前演练。

热点缓存key重建优化

开发人员使用“缓存+过期时间”的策略既可以加速数据读写，有保证数据的定期更新，这种模式基本能够满足绝大部分需求。但是有两个问题如果同时出现，可能就会对应用造成致命的危害：

• 当前key是一个热点key，并发量非常大。
• 重建缓存不能在短时间按完成，可能是一个复杂计算，例如发杂的SQL、多次IO、多个依赖等。

在缓存失效的瞬间，有大量线程来重建缓存，造成后端负载加大，甚至可能会让应用崩溃。
要解决这个问题主要就是避免大量线程同时重建缓存。
我们可以利用互斥锁来解决，此方法只允许一个线程重建缓存，其他线程等待重建缓存的线程执行完，重新从缓存获取数据即可。

缓存与数据库双写不一致终极解决

Redis开发规范与性能优化