Redis与DB的数据一致性解决方案

Redis缓存, 分布式 / 作者： / / 发表评论 / Canal, DB, Redis, Redis与DB的数据一致性, RocketMQ, 数据一致性, 数据库, 缓存, 缓存与数据的一致性

一、谈谈一致性

Redis与DB的数据一致性解决方案插图

一致性就是数据保持一致，在分布式系统中，可以理解为多个节点中数据的值是一致的。

  • 强一致性：这种一致性级别是最符合用户直觉的，它要求系统写入什么，读出来的也会是什么，用户体验好，但实现起来往往对系统的性能影响大
  • 弱一致性：这种一致性级别约束了系统在写入成功后，不承诺立即可以读到写入的值，也不承诺多久之后数据能够达到一致，但会尽可能地保证到某个时间级别（比如秒级别）后，数据能够达到一致状态
  • 最终一致性：最终一致性是弱一致性的一个特例，系统会保证在一定时间内，能够达到一个数据一致的状态。这里之所以将最终一致性单独提出来，是因为它是弱一致性中非常推崇的一种一致性模型，也是业界在大型分布式系统的数据一致性上比较推崇的模型

二、集中式redis缓存的三个经典的缓存模式

缓存可以提升性能、缓解数据库压力，但是使用缓存也会导致数据不一致性的问题。一般我们是如何使用缓存呢？有三种经典的缓存模式：

  • Cache-Aside Pattern
  • Read-Through/Write through
  • Write behind

三、模式一：Cache-Aside Pattern

Cache-Aside Pattern，即旁路缓存模式，它的提出是为了尽可能地解决缓存与数据库的数据不一致问题。

1、Cache-Aside的读流程

Cache-Aside Pattern的读请求流程如下：

Redis与DB的数据一致性解决方案插图2

读的时候，先读缓存，缓存命中的话，直接返回数据；缓存没有命中的话，就去读数据库，从数据库取出数据，放入缓存后，同时返回响应。

2、Cache-Aside 写流程

Cache-Aside Pattern的写请求流程如下：

Redis与DB的数据一致性解决方案插图4

更新的时候，先更新数据库，然后再删除缓存。

四、模式二：Read-Through/Write-Through（读写穿透）

Read/Write Through模式中，服务端把缓存作为主要数据存储。应用程序跟数据库缓存交互，都是通过抽象缓存层完成的。

1、Read-Through读流程

Read-Through的简要读流程如下：

Redis与DB的数据一致性解决方案插图6

从缓存读取数据，读到直接返回。如果读取不到的话，从数据库加载，写入缓存后，再返回响应。

这个简要流程是不是跟Cache-Aside很像呢？其实Read-Through就是多了一层Cache-Provider，流程如下：

Redis与DB的数据一致性解决方案插图8

Read-Through的优点：Read-Through实际只是在Cache-Aside之上进行了一层封装，它会让程序代码变得更简洁，同时也减少数据源上的负载。

2、Write-Through写流程

Write-Through模式下，当发生写请求时，也是由缓存抽象层完成数据源和缓存数据的更新,流程如下：

Redis与DB的数据一致性解决方案插图10

五、模式三：Write behind （异步缓存写入）

Write behind跟Read-Through/Write-Through有相似的地方，都是由Cache Provider来负责缓存和数据库的读写。它两又有个很大的不同：Read/Write Through是同步更新缓存和数据的，Write Behind则是只更新缓存，不直接更新数据库，通过批量异步的方式来更新数据库。

Redis与DB的数据一致性解决方案插图12

这种方式下，缓存和数据库的一致性不强，对一致性要求高的系统要谨慎使用。

但是它适合频繁写的场景，MySQL的InnoDB Buffer Pool机制就使用到这种模式。

六、三种模式的比较

1、数据存储

  • Cache Aside更新模式实现起来比较简单，但是需要维护两个数据存储:
    • 一个是缓存（Cache）
    • 一个是数据库（Repository）
  • Read/Write Through 的写模式需要维护一个数据存储（缓存），实现起来要复杂一些。
  • Write Behind Caching 更新模式和Read/Write Through 更新模式类似，区别是Write Behind Caching 更新模式的数据持久化操作是异步的，但是Read/Write Through 更新模式的数据持久化操作是同步的。
  • Write Behind Caching 的优点是直接操作内存速度快，多次操作可以合并持久化到数据库。缺点是数据可能会丢失，例如系统断电等。

2、Cache-Aside的问题

更新数据的时候，Cache-Aside是删除缓存呢，还是应该更新缓存？

Cache-Aside在写入请求的时候，为什么是删除缓存而不是更新缓存呢？

Redis与DB的数据一致性解决方案插图14

在操作缓存的时候，到底应该删除缓存还是更新缓存呢？先来看个例子：

Redis与DB的数据一致性解决方案插图16

操作的次序如下：

  • 线程A先发起一个写操作，第一步先更新数据库
  • 线程B再发起一个写操作，第二步更新了数据库

现在，由于网络等原因，线程B先更新了缓存, 线程A更新缓存。这时候，缓存保存的是A的数据（老数据），数据库保存的是B的数据（新数据），数据不一致了，脏数据出现啦。如果是删除缓存取代更新缓存则不会出现这个脏数据问题。

更新缓存相对于删除缓存，还有两点劣势：

  • 如果你写入的缓存值，是经过复杂计算才得到的话。 更新缓存频率高的话，就浪费性能啦。
  • 在写多读少的情况下，数据很多时候还没被读取到，又被更新了，这也浪费了性能呢(实际上，写多的场景，用缓存也不是很划算了)

任何的措施，也不是绝对的好， 只有分场景看是不是适合，更新缓存的措施，也是有用的：在读多写少的场景，价值大。

3、双写的情况下，先操作数据库还是先操作缓存？

Cache-Aside缓存模式中，在写入请求的时候，为什么是先操作数据库呢？为什么不先操作缓存呢？假设有A、B两个请求，请求A做更新操作，请求B做查询读取操作。

Redis与DB的数据一致性解决方案插图18

A、B两个请求的操作流程如下：

  1. 线程A发起一个写操作，第一步del cache
  2. 此时线程B发起一个读操作，cache miss
  3. 线程B继续读DB，读出来一个老数据
  4. 然后线程B把老数据设置入cache
  5. 线程A写入DB最新的数据

这样就有问题啦，缓存和数据库的数据不一致了。

缓存保存的是老数据，数据库保存的是新数据。因此，Cache-Aside缓存模式，选择了先操作数据库而不是先操作缓存。

七、Redis分布式缓存与数据库的数据一致性

重要：缓存是通过牺牲强一致性来提高性能的。

这是由CAP理论决定的。缓存系统适用的场景就是非强一致性的场景，它属于CAP中的AP。

1、分布式三大特性

强一致性还是弱一致性？

CAP理论，指的是在一个分布式系统中， Consistency（一致性）、 Availability（可用性）、Partition tolerance（分区容错性），三者不可得兼。

CAP理论作为分布式系统的基础理论，它描述的是一个分布式系统在以下三个特性中：

  • 一致性（Consistency）
  • 可用性（Availability）
  • 分区容错性（Partition tolerance）

最多满足其中的两个特性。也就是下图所描述的。分布式系统要么满足CA,要么CP，要么AP。无法同时满足CAP。

Redis与DB的数据一致性解决方案插图20

2、什么是一致性、可用性和分区容错性？

  • 分区容错性：指的分布式系统中的某个节点或者网络分区出现了故障的时候，整个系统仍然能对外提供满足一致性和可用性的服务。也就是说部分故障不影响整体使用。事实上我们在设计分布式系统是都会考虑到bug,硬件，网络等各种原因造成的故障，所以即使部分节点或者网络出现故障，我们要求整个系统还是要继续使用的（不继续使用,相当于只有一个分区,那么也就没有后续的一致性和可用性了）
  • 可用性： 一直可以正常的做读写操作。简单而言就是客户端一直可以正常访问并得到系统的正常响应。用户角度来看就是不会出现系统操作失败或者访问超时等问题。
  • 一致性：在分布式系统完成某写操作后任何读操作，都应该获取到该写操作写入的那个最新的值。相当于要求分布式系统中的各节点时时刻刻保持数据的一致性。

3、如果需要数据库和缓存数据保持强一致，就不适合使用缓存

所以使用缓存提升性能，就是会有数据更新的延迟。这需要我们在设计时结合业务仔细思考是否适合用缓存。然后缓存一定要设置过期时间，这个时间太短、或者太长都不好：

  • 太短的话请求可能会比较多的落到数据库上，这也意味着失去了缓存的优势。
  • 太长的话缓存中的脏数据会使系统长时间处于一个延迟的状态，而且系统中长时间没有人访问的数据一直存在内存中不过期，浪费内存。

但是，通过一些方案优化处理，是可以保证弱一致性，最终一致性的。

八、3种方案保证数据库与缓存的一致性

3种方案保证数据库与缓存的一致性：

  • 延时双删策略
  • 删除缓存重试机制
  • 读取biglog异步删除缓存

1、缓存延时双删

有些小伙伴可能会说，不一定要先操作数据库呀，采用缓存延时双删策略就好啦？什么是延时双删呢？

1）延时双删的步骤

  • 1、先删除缓存
  • 2、再更新数据库
  • 3、休眠一会（比如1秒），再次删除缓存。
Redis与DB的数据一致性解决方案插图22

2）参考代码

Redis与DB的数据一致性解决方案插图24

这个休眠一会，一般多久呢？都是1秒？

这个休眠时间 = 读业务逻辑数据的耗时 + 几百毫秒。

为了确保读请求结束，写请求可以删除读请求可能带来的缓存脏数据。

2、删除缓存重试机制

不管是延时双删还是Cache-Aside的先操作数据库再删除缓存，如果第二步的删除缓存失败呢?

删除失败会导致脏数据哦~

删除失败就多删除几次呀，保证删除缓存成功呀~ 所以可以引入删除缓存重试机制。

Redis与DB的数据一致性解决方案插图26

1）删除缓存重试机制的大致步骤

  • 写请求更新数据库
  • 缓存因为某些原因，删除失败
  • 把删除失败的key放到消息队列
  • 消费消息队列的消息，获取要删除的key
  • 重试删除缓存操作

3、同步biglog异步删除缓存

重试删除缓存机制还可以，就是会造成好多业务代码入侵。

其实，还可以通过数据库的binlog来异步淘汰key。

Redis与DB的数据一致性解决方案插图28

以mysql为例 可以使用阿里的canal将binlog日志采集发送到MQ队列里面，然后编写一个简单的缓存删除消息者订阅binlog日志，根据更新log删除缓存，并且通过ACK机制确认处理这条更新log，保证数据缓存一致性。

4、如何确保消费成功

PushConsumer为了保证消息肯定消费成功，只有使用方明确表示消费成功，RocketMQ才会认为消息消费成功。中途断电，抛出异常等都不会认为成功——即都会重新投递。首先，消费的时候，我们需要注入一个消费回调，具体sample代码如下：

consumer.registerMessageListener(new MessageListenerConcurrently() {
    @Override
    public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> msgs, ConsumeConcurrentlyContext context) {
        System.out.println(Thread.currentThread().getName() + " Receive New Messages: " + msgs);
        delcache(key);//执行真正删除
        return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;//返回消费成功
    }
});

业务实现消费回调的时候，当且仅当此回调函数返回ConsumeConcurrentlyStatus.CONSUME_SUCCESS，RocketMQ才会认为这批消息（默认是1条）是消费完成的。如果这时候消息消费失败，例如数据库异常，余额不足扣款失败等一切业务认为消息需要重试的场景，只要返回ConsumeConcurrentlyStatus.RECONSUME_LATER，RocketMQ就会认为这批消息消费失败了。

为了保证消息是肯定被至少消费成功一次，RocketMQ会把这批消费失败的消息重发回Broker（topic不是原topic而是这个消费租的RETRY topic），在延迟的某个时间点（默认是10秒，业务可设置）后，再次投递到这个ConsumerGroup。而如果一直这样重复消费都持续失败到一定次数（默认16次），就会投递到DLQ死信队列。应用可以监控死信队列来做人工干预。

1）pub/sub的订阅实现

Pub/Sub功能（means Publish, Subscribe）即发布及订阅功能。Pub/Sub是目前广泛使用的通信模型，它采用事件作为基本的通信机制，提供大规模系统所要求的松散耦合的交互模式：订阅者(如客户端)以事件订阅的方式表达出它有兴趣接收的一个事件或一类事件；发布者(如服务器)可将订阅者感兴趣的事件随时通知相关订阅者。熟悉设计模式的朋友应该了解这与23种设计模式中的观察者模式极为相似。

2）Redis 的 pub/sub订阅实现

Redis通过publish和subscribe命令实现订阅和发布的功能。订阅者可以通过subscribe向redis server订阅自己感兴趣的消息类型。redis将信息类型称为通道(channel)。当发布者通过publish命令向redis server发送特定类型的信息时，订阅该消息类型的全部订阅者都会收到此消息。

5、主从数据库通过biglog异步删除

但是呢还有个问题， 「如果是主从数据库呢」？

因为主从DB同步存在延时时间。如果删除缓存之后，数据同步到备库之前已经有请求过来时， 「会从备库中读到脏数据」，如何解决呢？解决方案如下流程图：

Redis与DB的数据一致性解决方案插图30

九、缓存与数据的一致性的保障策略总结

综上所述，在分布式系统中，缓存和数据库同时存在时，如果有写操作的时候，「先操作数据库，再操作缓存」。如下：

  • 1.读取缓存中是否有相关数据
  • 2.如果缓存中有相关数据value，则返回
  • 3.如果缓存中没有相关数据，则从数据库读取相关数据放入缓存中key->value，再返回
  • 4.如果有更新数据，则先更新数据库，再删除缓存
  • 5.为了保证第四步删除缓存成功，使用binlog异步删除
  • 6.如果是主从数据库，binglog取自于从库
  • 7.如果是一主多从，每个从库都要采集binlog，然后消费端收到最后一台binlog数据才删除缓存，或者为了简单，收到一次更新log，删除一次缓存

十、实战：Canal+RocketMQ同步MySQL到Redis/ES

在很多业务情况下，我们都会在系统中加入redis缓存做查询优化， 使用es 做全文检索。如果数据库数据发生更新，这时候就需要在业务代码中写一段同步更新redis的代码。这种数据同步的代码跟业务代码糅合在一起会不太优雅，能不能把这些数据同步的代码抽出来形成一个独立的模块呢，答案是可以的。

1、biglog同步保障数据一致性的架构

Redis与DB的数据一致性解决方案插图32

2、技术栈

如果你还对SpringBoot、canal、RocketMQ、MySQL、ElasticSearch 不是很了解的话，如下是它们的官网网站：

打赏微海报分享

相关文章

发表评论