精华内容
下载资源
问答
  • 在高并发的业务场景下,数据库大多数情况都是用户并发访问最薄弱的环节...读取缓存步骤一般没有什么问题,但是一旦涉及到数据更新:数据库和缓存更新,就容易出现缓存(Redis)数据库(MySQL)间的数据一致性问题。不...

    在高并发的业务场景下,数据库大多数情况都是用户并发访问最薄弱的环节。所以,就需要使用redis做一个缓冲操作,让请求先访问到redis,而不是直接访问MySQL等数据库。

    745f451277338b70d0834aa50d947537.png

    这个业务场景,主要是解决读数据从Redis缓存,一般都是按照下图的流程来进行业务操作。

    5ee6e4d43a94c641d1dc4888e5a4f440.png

    读取缓存步骤一般没有什么问题,但是一旦涉及到数据更新:数据库和缓存更新,就容易出现缓存(Redis)和数据库(MySQL)间的数据一致性问题。

    不管是先写MySQL数据库,再删除Redis缓存;还是先删除缓存,再写库,都有可能出现数据不一致的情况。举一个例子:

    1.如果删除了缓存Redis,还没有来得及写库MySQL,另一个线程就来读取,发现缓存为空,则去数据库中读取数据写入缓存,此时缓存中为脏数据。

    2.如果先写了库,在删除缓存前,写库的线程宕机了,没有删除掉缓存,则也会出现数据不一致情况。

    因为写和读是并发的,没法保证顺序,就会出现缓存和数据库的数据不一致的问题。

    如来解决?这里给出两个解决方案,先易后难,结合业务和技术代价选择使用。

    缓存和数据库一致性解决方案

    1.第一种方案:采用延时双删策略

    在写库前后都进行redis.del(key)操作,并且设定合理的超时时间。

    伪代码如下

    public void write(String key,Object data){

    redis.delKey(key);

    db.updateData(data);

    Thread.sleep(500);

    redis.delKey(key);

    }

    2.具体的步骤就是:

    1)先删除缓存

    2)再写数据库

    3)休眠300-500毫秒

    4)再次删除缓存

    那么,这个500毫秒怎么确定的,具体该休眠多久呢?

    需要评估自己的项目的读数据业务逻辑的耗时。这么做的目的,就是确保读请求结束,写请求可以删除读请求造成的缓存脏数据。

    当然这种策略还要考虑redis和数据库主从同步的耗时。最后的的写数据的休眠时间:则在读数据业务逻辑的耗时基础上,加几百ms即可。比如:休眠1秒。

    3.设置缓存过期时间

    从理论上来说,给缓存设置过期时间,是保证最终一致性的解决方案。所有的写操作以数据库为准,只要到达缓存过期时间,则后面的读请求自然会从数据库中读取新值然后回填缓存。

    4.该方案的弊端

    结合双删策略+缓存超时设置,这样最差的情况就是在超时时间内数据存在不一致,而且又增加了写请求的耗时。

    2、第二种方案:异步更新缓存(基于订阅binlog的同步机制)

    1.技术整体思路:

    MySQL binlog增量订阅消费+消息队列+增量数据更新到redis

    1)读Redis:热数据基本都在Redis

    2)写MySQL:增删改都是操作MySQL

    3)更新Redis数据:MySQ的数据操作binlog,来更新到Redis

    2.Redis更新

    1)数据操作主要分为两大块:

    一个是全量(将全部数据一次写入到redis)

    一个是增量(实时更新)

    这里说的是增量,指的是mysql的update、insert、delate变更数据。

    2)读取binlog后分析 ,利用消息队列,推送更新各台的redis缓存数据。

    这样一旦MySQL中产生了新的写入、更新、删除等操作,就可以把binlog相关的消息推送至Redis,Redis再根据binlog中的记录,对Redis进行更新。

    其实这种机制,很类似MySQL的主从备份机制,因为MySQL的主备也是通过binlog来实现的数据一致性。

    可以结合使用canal(阿里的一款开源框架),通过该框架可以对MySQL的binlog进行订阅,而canal正是模仿了mysql的slave数据库的备份请求,使得Redis的数据更新达到了相同的效果。

    这里的消息推送工具你也可以采用别的第三方:kafka、rabbitMQ等来实现推送更新Redis。

    展开全文
  • 需求起因在高并发的业务场景下,数据库大多数情况都是用户并发访问最薄弱的环节...读取缓存步骤一般没有什么问题,但是一旦涉及到数据更新:数据库和缓存更新,就容易出现缓存(Redis)数据库(MySQL)间的数据一致性...

    需求起因

    在高并发的业务场景下,数据库大多数情况都是用户并发访问最薄弱的环节。所以,就需要使用redis做一个缓冲操作,让请求先访问到redis,而不是直接访问MySQL等数据库。

    7fca0b559d85ccb3eff379dff18ca8d1.png

    这个业务场景,主要是解决读数据从Redis缓存,一般都是按照下图的流程来进行业务操作。

    3bf36b131634a315e5b56a9d8a839bc3.png

    读取缓存步骤一般没有什么问题,但是一旦涉及到数据更新:数据库和缓存更新,就容易出现缓存(Redis)和数据库(MySQL)间的数据一致性问题。

    不管是先写MySQL数据库,再删除Redis缓存;还是先删除缓存,再写库,都有可能出现数据不一致的情况。举一个例子:

    1.如果删除了缓存Redis,还没有来得及写库MySQL,另一个线程就来读取,发现缓存为空,则去数据库中读取数据写入缓存,此时缓存中为脏数据。

    2.如果先写了库,在删除缓存前,写库的线程宕机了,没有删除掉缓存,则也会出现数据不一致情况。

    因为写和读是并发的,没法保证顺序,就会出现缓存和数据库的数据不一致的问题。

    如来解决?这里给出两个解决方案,先易后难,结合业务和技术代价选择使用。

    缓存和数据库一致性解决方案

    1.第一种方案:采用延时双删策略

    在写库前后都进行redis.del(key)操作,并且设定合理的超时时间。

    伪代码如下

    public void write(String key,Object data){

    redis.delKey(key);

    db.updateData(data);

    Thread.sleep(500);

    redis.delKey(key);

    }

    2.具体的步骤就是:

    1)先删除缓存

    2)再写数据库

    3)休眠500毫秒

    4)再次删除缓存

    那么,这个500毫秒怎么确定的,具体该休眠多久呢?

    需要评估自己的项目的读数据业务逻辑的耗时。这么做的目的,就是确保读请求结束,写请求可以删除读请求造成的缓存脏数据。

    当然这种策略还要考虑redis和数据库主从同步的耗时。最后的的写数据的休眠时间:则在读数据业务逻辑的耗时基础上,加几百ms即可。比如:休眠1秒。

    3.设置缓存过期时间

    从理论上来说,给缓存设置过期时间,是保证最终一致性的解决方案。所有的写操作以数据库为准,只要到达缓存过期时间,则后面的读请求自然会从数据库中读取新值然后回填缓存。

    4.该方案的弊端

    结合双删策略+缓存超时设置,这样最差的情况就是在超时时间内数据存在不一致,而且又增加了写请求的耗时。

    2、第二种方案:异步更新缓存(基于订阅binlog的同步机制)

    1.技术整体思路:

    MySQL binlog增量订阅消费+消息队列+增量数据更新到redis

    1)读Redis:热数据基本都在Redis

    2)写MySQL:增删改都是操作MySQL

    3)更新Redis数据:MySQ的数据操作binlog,来更新到Redis

    2.Redis更新

    1)数据操作主要分为两大块:

    一个是全量(将全部数据一次写入到redis)

    一个是增量(实时更新)

    这里说的是增量,指的是mysql的update、insert、delate变更数据。

    2)读取binlog后分析 ,利用消息队列,推送更新各台的redis缓存数据。

    这样一旦MySQL中产生了新的写入、更新、删除等操作,就可以把binlog相关的消息推送至Redis,Redis再根据binlog中的记录,对Redis进行更新。

    其实这种机制,很类似MySQL的主从备份机制,因为MySQL的主备也是通过binlog来实现的数据一致性。

    这里可以结合使用canal(阿里的一款开源框架),通过该框架可以对MySQL的binlog进行订阅,而canal正是模仿了mysql的slave数据库的备份请求,使得Redis的数据更新达到了相同的效果。

    也可以利用python-my-replication读取mysql的binlog,再加上python pika(rabbitmq)进行订阅发布。

    当然,这里的消息推送工具你也可以采用别的第三方:kafka、rabbitMQ等来实现推送更新Redis。

    该方案优点

    能保证绝对一致

    该方案缺点:

    数据库中间件的成本较高

    展开全文
  • 需求起因在高并发的业务场景下,数据库大多数情况都是用户并发访问最薄弱的环节...读取缓存步骤一般没有什么问题,但是一旦涉及到数据更新:数据库和缓存更新,就容易出现缓存(Redis)数据库(MySQL)间的数据一致性...

    701ce00fc0c80badadc939fd87140e1f.png

    需求起因

    在高并发的业务场景下,数据库大多数情况都是用户并发访问最薄弱的环节。所以,就需要使用redis做一个缓冲操作,让请求先访问到redis,而不是直接访问MySQL等数据库。

    9e548b97fad31e0db5015a43f6649c9d.png

    这个业务场景,主要是解决读数据从Redis缓存,一般都是按照下图的流程来进行业务操作。

    b99e3821d76179e5819e434374a28081.png

    读取缓存步骤一般没有什么问题,但是一旦涉及到数据更新:数据库和缓存更新,就容易出现缓存(Redis)和数据库(MySQL)间的数据一致性问题。

    不管是先写MySQL数据库,再删除Redis缓存;还是先删除缓存,再写库,都有可能出现数据不一致的情况。举一个例子:

    1.如果删除了缓存Redis,还没有来得及写库MySQL,另一个线程就来读取,发现缓存为空,则去数据库中读取数据写入缓存,此时缓存中为脏数据。

    2.如果先写了库,在删除缓存前,写库的线程宕机了,没有删除掉缓存,则也会出现数据不一致情况。

    因为写和读是并发的,没法保证顺序,就会出现缓存和数据库的数据不一致的问题。

    如来解决?这里给出两个解决方案,先易后难,结合业务和技术代价选择使用。

    缓存和数据库一致性解决方案

    第一种方案:采用延时双删策略

    在写库前后都进行redis.del(key)操作,并且设定合理的超时时间。

    伪代码如下

    public void write(String key,Object data){

    redis.delKey(key);

    db.updateData(data);

    Thread.sleep(500);

    redis.delKey(key);

    }

    2.具体的步骤就是:

    1)先删除缓存

    2)再写数据库

    3)休眠500毫秒

    4)再次删除缓存

    那么,这个500毫秒怎么确定的,具体该休眠多久呢?

    需要评估自己的项目的读数据业务逻辑的耗时。这么做的目的,就是确保读请求结束,写请求可以删除读请求造成的缓存脏数据。

    当然这种策略还要考虑redis和数据库主从同步的耗时。最后的的写数据的休眠时间:则在读数据业务逻辑的耗时基础上,加几百ms即可。比如:休眠1秒。

    3.设置缓存过期时间

    从理论上来说,给缓存设置过期时间,是保证最终一致性的解决方案。所有的写操作以数据库为准,只要到达缓存过期时间,则后面的读请求自然会从数据库中读取新值然后回填缓存。

    4.该方案的弊端

    结合双删策略+缓存超时设置,这样最差的情况就是在超时时间内数据存在不一致,而且又增加了写请求的耗时。

    第二种方案:异步更新缓存(基于订阅binlog的同步机制)

    1.技术整体思路:

    MySQL binlog增量订阅消费+消息队列+增量数据更新到redis

    1)读Redis:热数据基本都在Redis

    2)写MySQL:增删改都是操作MySQL

    3)更新Redis数据:MySQ的数据操作binlog,来更新到Redis

    2.Redis更新

    1)数据操作主要分为两大块:

    一个是全量(将全部数据一次写入到redis)

    一个是增量(实时更新)

    这里说的是增量,指的是mysql的update、insert、delate变更数据。

    2)读取binlog后分析 ,利用消息队列,推送更新各台的redis缓存数据。

    这样一旦MySQL中产生了新的写入、更新、删除等操作,就可以把binlog相关的消息推送至Redis,Redis再根据binlog中的记录,对Redis进行更新。

    其实这种机制,很类似MySQL的主从备份机制,因为MySQL的主备也是通过binlog来实现的数据一致性。

    这里可以结合使用canal(阿里的一款开源框架),通过该框架可以对MySQL的binlog进行订阅,而canal正是模仿了mysql的slave数据库的备份请求,使得Redis的数据更新达到了相同的效果。

    当然,这里的消息推送工具你也可以采用别的第三方:kafka、rabbitMQ等来实现推送更新Redis。

    展开全文
  • 需求起因在高并发的业务场景下,数据库大多数情况都是用户并发访问最薄弱的环节...读取缓存步骤一般没有什么问题,但是一旦涉及到数据更新:数据库和缓存更新,就容易出现缓存(Redis)数据库(MySQL)间的数据一致性...

    需求起因

    在高并发的业务场景下,数据库大多数情况都是用户并发访问最薄弱的环节。所以,就需要使用redis做一个缓冲操作,让请求先访问到redis,而不是直接访问MySQL等数据库。

    535647e29d99edb49b9b8db93bb72dca.png

    这个业务场景,主要是解决读数据从Redis缓存,一般都是按照下图的流程来进行业务操作。

    d780aa00b4a250e41b381bbe07ffee0b.png

    读取缓存步骤一般没有什么问题,但是一旦涉及到数据更新:数据库和缓存更新,就容易出现缓存(Redis)和数据库(MySQL)间的数据一致性问题。

    不管是先写MySQL数据库,再删除Redis缓存;还是先删除缓存,再写库,都有可能出现数据不一致的情况。举一个例子:

    1.如果删除了缓存Redis,还没有来得及写库MySQL,另一个线程就来读取,发现缓存为空,则去数据库中读取数据写入缓存,此时缓存中为脏数据。

    2.如果先写了库,在删除缓存前,写库的线程宕机了,没有删除掉缓存,则也会出现数据不一致情况。

    因为写和读是并发的,没法保证顺序,就会出现缓存和数据库的数据不一致的问题。

    如来解决?这里给出两个解决方案,先易后难,结合业务和技术代价选择使用。

    缓存和数据库一致性解决方案

    1.第一种方案:采用延时双删策略

    在写库前后都进行redis.del(key)操作,并且设定合理的超时时间。

    伪代码如下

    public void write(String key,Object data){

    redis.delKey(key);

    db.updateData(data);

    Thread.sleep(500);

    redis.delKey(key);

    }

    2.具体的步骤就是:

    1)先删除缓存

    2)再写数据库

    3)休眠500毫秒

    4)再次删除缓存

    那么,这个500毫秒怎么确定的,具体该休眠多久呢?

    需要评估自己的项目的读数据业务逻辑的耗时。这么做的目的,就是确保读请求结束,写请求可以删除读请求造成的缓存脏数据。

    当然这种策略还要考虑redis和数据库主从同步的耗时。最后的的写数据的休眠时间:则在读数据业务逻辑的耗时基础上,加几百ms即可。比如:休眠1秒。

    3.设置缓存过期时间

    从理论上来说,给缓存设置过期时间,是保证最终一致性的解决方案。所有的写操作以数据库为准,只要到达缓存过期时间,则后面的读请求自然会从数据库中读取新值然后回填缓存。

    4.该方案的弊端

    结合双删策略+缓存超时设置,这样最差的情况就是在超时时间内数据存在不一致,而且又增加了写请求的耗时。

    2、第二种方案:异步更新缓存(基于订阅binlog的同步机制)

    1.技术整体思路:

    MySQL binlog增量订阅消费+消息队列+增量数据更新到redis

    1)读Redis:热数据基本都在Redis

    2)写MySQL:增删改都是操作MySQL

    3)更新Redis数据:MySQ的数据操作binlog,来更新到Redis

    2.Redis更新

    1)数据操作主要分为两大块:

    一个是全量(将全部数据一次写入到redis)

    一个是增量(实时更新)

    这里说的是增量,指的是mysql的update、insert、delate变更数据。

    2)读取binlog后分析 ,利用消息队列,推送更新各台的redis缓存数据。

    这样一旦MySQL中产生了新的写入、更新、删除等操作,就可以把binlog相关的消息推送至Redis,Redis再根据binlog中的记录,对Redis进行更新。

    其实这种机制,很类似MySQL的主从备份机制,因为MySQL的主备也是通过binlog来实现的数据一致性。

    这里可以结合使用canal(阿里的一款开源框架),通过该框架可以对MySQL的binlog进行订阅,而canal正是模仿了mysql的slave数据库的备份请求,使得Redis的数据更新达到了相同的效果。

    当然,这里的消息推送工具你也可以采用别的第三方:kafka、rabbitMQ等来实现推送更新Redis。

    以上就是Redis和MySQL数据一致性详解,相关的MySQL数据库主从同步一致性可以参考:《高并发架构系列:数据库主从同步的3种一致性方案实现,优劣比较》

    展开全文
  • 按照这个流程,读取缓存步骤一般没有什么问题,但是一旦涉及到数据更新:数据库和缓存更新,就容易出现缓存(Redis)数据库(MySQL)间的数据一致性问题。不管是先写MySQL数据库,再删除Redis缓存;还是先删除缓存,...
  • Redis缓存和MySQL数据一致性方案详解 需求起因 在高并发的业务场景下,数据库大多数情况都是用户并发访问最薄弱的环节。所以,就需要使用redis做一个缓冲操作,让请求先访问到redis,而不是直接访问MySQL等...
  • 需求起因在高并发的业务场景下,数据库大多数情况都是用户并发访问最薄弱的环节。...image读取缓存步骤一般没有什么问题,但是一旦涉及到数据更新:数据库和缓存更新,就容易出现缓存(Redis)数据库(MySQL)间的...
  • 高并发架构系列:Redis缓存和MySQL数据一致性方案详解 Redis缓存和MySQL数据一致性方案详解
  • 那么当更新数据库数据的时候,该如果更新缓存呢,至少要考虑尽量短时间的一致性,这个看业务需求,比如用户信息缓存时间越短越好,比如排行榜可能是一天更新一次,本文纯技术讨论,就是尽量缩短非一致性的时间以此来...
  • 1、需求起因 在高并发的业务场景下,数据库大多数情况都是用户并发访问最薄弱的环节。...读取缓存步骤一般没有什么问题,但是一旦涉及到数据更新:数据库和缓存更新,就容易出现缓存(Redis)数据库(MySQL)间...
  • Redis缓存和mysql数据一致性问题

    千次阅读 2019-04-17 15:04:29
    场景: 在高并发的业务场景下,数据库大多数情况都是用户... 读取缓存步骤一般没有什么问题,但是一旦涉及到数据更新:数据库和缓存更新,就容易出现缓存(Redis)数据库(MySQL)间的数据一致性问题。 不管是...
  • 一、需求起因在高并发的业务场景下,数据库大多数情况都是用户并发访问最薄弱的环节...读取缓存步骤一般没有什么问题,但是一旦涉及到数据更新:数据库和缓存更新,就容易出现缓存(Redis)数据库(MySQL)间的数据一...
  • 一、需求起因在高并发的业务场景下,数据库大多数情况都是用户并发访问最薄弱的环节...读取缓存步骤一般没有什么问题,但是一旦涉及到数据更新:数据库和缓存更新,就容易出现缓存(Redis)数据库(MySQL)间的数据一...
  • 关注我,可以获取最新知识、经典面试题以及技术分享一、需求起因在高并发的业务场景下,数据库大多数情况都是用户并发...读取缓存步骤一般没有什么问题,但是一旦涉及到数据更新:数据库和缓存更新,就容易出现缓...
  • redis缓存和mysql读写一致性问题总结

    千次阅读 2019-09-05 10:13:11
    今天陪大家来一起研究下redis缓存和数据库双写一致性问题 我相信redis对于大多数程序猿并不陌生,大家在日常使用中肯定会遇到双写一直性问题,当然对于这个问题的解决方案大家肯定都各有见解,那么今天我就给大家...
  • 需求起因在高并发的业务场景下,数据库大多数情况都是用户并发访问最薄弱的...读取缓存步骤一般没有什么问题,但是一旦涉及到数据更新:数据库和缓存更新,就容易出现缓存(Redis)数据库(MySQL)间的数据一致性...
  • 需求起因在高并发的业务场景下,数据库大多数情况都是用户并发访问最薄弱的环节。... 读取缓存步骤一般没有什么问题,但是一旦涉及到数据更新:数据库和缓存更新,就容易出现缓存(Redis)数据库(MySQL)间的数据...
  • 对于缓存穿透、缓存雪崩和缓存击穿常常出现在面试中,今天来看看它到底是啥吧? redis缓存穿透 理解 重在穿透吧,也就是访问透过redis直接经过mysql,通常是一个不存在的key,在数据库查询为null。每次请求落在...
  • 数据为什么会不一致这类问题主要在于并发读写访问,缓存和数据相互交叉执行。一、单库情况下同一时间发生了并发读写请求,比如A(写) ,B (读),2个请求A请求发送一个写的操作到服务端,第一步就...
  • 在高并发的业务场景下,...按照这个流程,读取缓存步骤一般没有什么问题,但是一旦涉及到数据更新:数据库和缓存更新,就容易出现缓存(Redis)数据库(MySQL)间的数据一致性问题。不管是先写MySQL数据库,再删除R...
  • 在高并发的业务场景下,数据库大多数情况都是用户并发访问最薄弱的...读取缓存步骤一般没有什么问题,但是一旦涉及到数据更新:数据库和缓存更新,就容易出现缓存(Redis)数据库(MySQL)间的数据一致性问题。不...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 675
精华内容 270
关键字:

缓存和mysql一致性

mysql 订阅