文档章节

高并发架构系列:Redis缓存和MySQL数据一致性方案详解

mikechen优知
 mikechen优知
发布于 2018/12/19 14:07
字数 1345
阅读 3.5W
收藏 406

需求起因

在高并发的业务场景下,数据库大多数情况都是用户并发访问最薄弱的环节。所以,就需要使用redis做一个缓冲操作,让请求先访问到redis,而不是直接访问MySQL等数据库。

这个业务场景,主要是解决读数据从Redis缓存,一般都是按照下图的流程来进行业务操作。

读取缓存步骤一般没有什么问题,但是一旦涉及到数据更新:数据库和缓存更新,就容易出现缓存(Redis)和数据库(MySQL)间的数据一致性问题

不管是先写MySQL数据库,再删除Redis缓存;还是先删除缓存,再写库,都有可能出现数据不一致的情况。举一个例子:

1.如果删除了缓存Redis,还没有来得及写库MySQL,另一个线程就来读取,发现缓存为空,则去数据库中读取数据写入缓存,此时缓存中为脏数据。

2.如果先写了库,在删除缓存前,写库的线程宕机了,没有删除掉缓存,则也会出现数据不一致情况。

因为写和读是并发的,没法保证顺序,就会出现缓存和数据库的数据不一致的问题。

如来解决?这里给出两个解决方案,先易后难,结合业务和技术代价选择使用。

缓存和数据库一致性解决方案

1.第一种方案:采用延时双删策略

在写库前后都进行redis.del(key)操作,并且设定合理的超时时间。

伪代码如下

public void write(String key,Object data){
 redis.delKey(key);
 db.updateData(data);
 Thread.sleep(500);
 redis.delKey(key);
 }

2.具体的步骤就是:

1)先删除缓存

2)再写数据库

3)休眠500毫秒

4)再次删除缓存

那么,这个500毫秒怎么确定的,具体该休眠多久呢?

需要评估自己的项目的读数据业务逻辑的耗时。这么做的目的,就是确保读请求结束,写请求可以删除读请求造成的缓存脏数据。

当然这种策略还要考虑redis和数据库主从同步的耗时。最后的的写数据的休眠时间:则在读数据业务逻辑的耗时基础上,加几百ms即可。比如:休眠1秒。

3.设置缓存过期时间

从理论上来说,给缓存设置过期时间,是保证最终一致性的解决方案。所有的写操作以数据库为准,只要到达缓存过期时间,则后面的读请求自然会从数据库中读取新值然后回填缓存。

4.该方案的弊端

结合双删策略+缓存超时设置,这样最差的情况就是在超时时间内数据存在不一致,而且又增加了写请求的耗时。

2、第二种方案:异步更新缓存(基于订阅binlog的同步机制)

1.技术整体思路:

MySQL binlog增量订阅消费+消息队列+增量数据更新到redis

1)读Redis:热数据基本都在Redis

2)写MySQL:增删改都是操作MySQL

3)更新Redis数据:MySQ的数据操作binlog,来更新到Redis

2.Redis更新

1)数据操作主要分为两大块:

  • 一个是全量(将全部数据一次写入到redis)
  • 一个是增量(实时更新)

这里说的是增量,指的是mysql的update、insert、delate变更数据。

2)读取binlog后分析 ,利用消息队列,推送更新各台的redis缓存数据。

这样一旦MySQL中产生了新的写入、更新、删除等操作,就可以把binlog相关的消息推送至Redis,Redis再根据binlog中的记录,对Redis进行更新。

其实这种机制,很类似MySQL的主从备份机制,因为MySQL的主备也是通过binlog来实现的数据一致性。

这里可以结合使用canal(阿里的一款开源框架),通过该框架可以对MySQL的binlog进行订阅,而canal正是模仿了mysql的slave数据库的备份请求,使得Redis的数据更新达到了相同的效果。

当然,这里的消息推送工具你也可以采用别的第三方:kafka、rabbitMQ等来实现推送更新Redis。

以上就是Redis和MySQL数据一致性详解,相关的MySQL数据库主从同步一致性可以参考:《高并发架构系列:数据库主从同步的3种一致性方案实现,优劣比较》

 

觉得不错请点赞支持,欢迎留言或进我的个人群179961551领取【架构资料专题目合集90期】、【BATJTMD大厂JAVA面试真题1000+】,本群专用于学习交流技术、分享面试机会,拒绝广告,我也会在群内不定期答题、探讨。

 

 

© 著作权归作者所有

mikechen优知
粉丝 110
博文 49
码字总数 82867
作品 0
徐汇
架构师
私信 提问
加载中

评论(40)

酸奶瓶盖儿
酸奶瓶盖儿
确实麻烦,我们当时考虑了半天,最终用了一个简单粗暴的办法,缓存只有在超过过期时间才会自动删除,除此之外没有删除逻辑,当需要修改数据的时候,先修改缓存,在修改数据库。因为很多条热数据如果修改频率都很高的话,删掉缓存对数据库也是不小的压力,又要查又要写。
letwang
letwang
如果方案1因为有延迟导致数据不一致,方案2也会有这个问题吧,比如从mysql发起同步请求到队列,再从队列到redis,中间不要时间延迟的么?😂
白小衣
白小衣
高并发系统里sleep 500ms?
云想衣裳花想容
云想衣裳花想容
只分析了redis做缓存用,缓存用的好千万pv妥妥的,还有总情况大数据的直接把redis当数据库的没有分析,我们现在不用redis做缓存了,直接当db用。
深蓝苹果
深蓝苹果
有点奇葩的方案
stnick
stnick
1. 延时删除的场景, 可以后置到 redis proxy 集群里定制开发,每个业务集群可以配置自己的策略.
比如 延时删除3次,分别在 3s, 10s, 30s 后触发, proxy 集群使用自己消息队列做删除任务.

2. 覆盖更新的场景:
1) 业务需求变更快, binglog 同步的运维有一定的成本, 因此资源变更在程序上自己实现了异步消息.
2) 变更不频繁.
3) 不保证时许的消息队列: eg nsq, redis list
因此为保证消费者拿到最新的状态, 此时需要改为覆盖更新.
mikechen优知
mikechen优知 博主

引用来自“格力高”的评论

说到底,还是得看业务逻辑是基于缓存的数据,还是基于数据库的数据。基于哪个就保证哪个的实时性、有效性。要是一会从数据库读,一会从缓存取,什么办法也保证不了数据百分百一致。
mikechen优知
mikechen优知 博主

引用来自“xiaofang19”的评论

为什么要删除,直接覆盖更新不可以吗?
这个取决于效率,是删除更快还是覆盖更新快。
xiaofang19
xiaofang19
为什么要删除,直接覆盖更新不可以吗?
格力高
格力高
说到底,还是得看业务逻辑是基于缓存的数据,还是基于数据库的数据。基于哪个就保证哪个的实时性、有效性。要是一会从数据库读,一会从缓存取,什么办法也保证不了数据百分百一致。
深入理解分布式系统中的缓存架构(下)

承接上一篇《理解分布式系统中的缓存架构(上)》,介绍了大型分布式系统中缓存的相关理论,常见的缓存组件以及应用场景,本文主要介绍缓存架构设计常见问题以及解决方案,业界案例。 1 分层缓...

Java填坑之路
2018/07/14
0
0
2016文章汇总

Java系列: JVM系列:jvm基本结构 JVM系列:java中JVM的原理 JVM系列:解决JVM最大内存设置问题 JVM系列:JVM参数设置、分析 HashMap , HashTable , ConcurrentHashMap 源码比较 从使用到原理学习...

www19
2017/01/03
0
0
架构师必备词汇和知识点

01 高可用 负载均衡(负载均衡算法) 反向代理 服务隔离 服务限流 服务降级(自动优雅降级) 失效转移 超时重试(代理超时、容器超时、前端超时、中间件超时、数据库超时、NoSql超时) 回滚机...

t4i2b10X4c22nF6A
2017/11/24
0
0
三流程序员与一流程序员之间的区别,看看你是属于哪一类?

源码系列 手写spring mvc框架 基于Spring JDBC手写ORM框架 实现自己的MyBatis Spring AOP实战之源码分析 Spring IOC高级特性应用分析 ORM框架底层实现原理剖析 手写Spring MVC框架实现 手把手...

茶轴的青春
2018/04/17
34
0
如何做数据存储架构技术选型怎么做?

在互联网应用中,数据爆发式的增长,实际上软件架构的本质就是对数据的维护。对数据的操作可以归纳为三类:读、写和检索。 随着网站的流量越来越大,数据量也爆发式的增长,网站响应越来越慢,...

雨中沙漠
2017/11/14
0
0

没有更多内容

加载失败,请刷新页面

加载更多

logroate的使用

lograte配置参数 daily 指定转储周期为每天 weekly 指定转储周期为每周 monthly 指定转储周期为每月 rotate 转储次数,超过将会删除最老的那一个 missingok 忽略错误,如“日志文件无法找到”...

月夫
今天
92
0
PCB走线辟谣总结,究竟应该怎么找拐角?

现在但凡打开 SoC原厂的PCBLayout Guide,都会提及到高速信号的走线的拐角角度问题,都会说高速信号不要以直角走线,要以 45 度角走线,并且会说走圆弧会比 45 度拐角更好。 事实是不是这样?...

demyar
今天
73
0
如何在ASP.NET中获取用户的客户端IP地址?

我们有Request.UserHostAddress来获取ASP.NET中的IP地址,但这通常是用户的ISP的IP地址,而不完全是例如单击链接的用户的计算机IP地址。 如何获得真实的IP地址? 例如,在Stack Overflow用户...

技术盛宴
今天
39
0
Linux下vi命令大全

1. 文件操作 vi FileName 打开文件 FileName,并将光标置于第一行首。 vi +n FileName 打开文件 FileName,并将光标置于第 n 行首。 vi + FileName 打开文件 FileName,并将光标置于最后一行。 ...

dean_
今天
96
0
Linux 软件更新源记录

rpmfusion 中国科学技术大学开源软件镜像

CHONGCHEN
今天
86
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部