通过持久化机制把内存中的数据同步到硬盘文件来 保证数据持久化。当 Redis 重启后通过把硬盘文件重新加载到内存,就能达到恢复数据的目 的。 实现:单独创建 fork()一个子进程,将当前父进程的数据库数据复制到子进程的内存中,然 后由子进程写入到临时文件中,持久化的过程结束了,再用这个临时文件替换上次的快照文 件,然后子进程退出,内存释放。
按照一定的时间周期策略把内存的数据以快照的形式保存 到硬盘的二进制文件。即 Snapshot 快照存储,对应产生的数据文件为 dump.rdb,通过配置 文件中的 save 参数来定义快照的周期。( 快照可以是其所表示的数据的一个副本,也可以 是数据的一个复制品。) AOF:Redis 会将每一个收到的写命令都通过 Write 函数追加到文件最后,类似于 MySQL 的 binlog。当 Redis 重启是会通过重新执行文件中保存的写命令来在内存中重建整个数据库的 内容。 当两种方式同时开启时,数据恢复 Redis 会优先选择 AOF 恢复。
缓存雪崩我们可以简单的理解为:由于原有缓存失效,新缓存未到期间 (例如:我们设置缓存时采用了相同的过期时间,在同一时刻出现大面积的缓存过期),所有 原本应该访问缓存的请求都去查询数据库了,而对数据库 CPU 和内存造成巨大压力,严重 的会造成数据库宕机。从而形成一系列连锁反应,造成整个系统崩溃。 解决办法: 大多数系统设计者考虑用加锁( 最多的解决方案)或者队列的方式保证来保证不会有大量 的线程对数据库一次性进行读写,从而避免失效时大量的并发请求落到底层存储系统上。还有一个简单方案就时讲缓存失效时间分散开。
缓存穿透是指用户查询数据,在数据库没有,自然在缓存中也不会有。这样就导致用户查询 的时候,在缓存中找不到,每次都要去数据库再查询一遍,然后返回空(相当于进行了两次 无用的查询)。这样请求就绕过缓存直接查数据库,这也是经常提的缓存命中率问题。 解决办法; 最常见的则是采用布隆过滤器,将所有可能存在的数据哈希到一个足够大的 bitmap 中,一 个一定不存在的数据会被这个 bitmap 拦截掉,从而避免了对底层存储系统的查询压力。
另外也有一个更为简单粗暴的方法:
如果一个查询返回的数据为空(不管是数据不存在,还 是系统故障),我们仍然把这个空结果进行缓存,但它的过期时间会很短,最长不超过五分 钟。通过这个直接设置的默认值存放到缓存,这样第二次到缓冲中获取就有值了,而不会继 续访问数据库,这种办法最简单粗暴。
5TB 的硬盘上放满了数据,请写一个算法将这些数据进行排重。如果这些数据是一些 32bit 大小的数据该如何解决?如果是 64bit 的呢?
对于空间的利用到达了一种极致,那就是 Bitmap 和布隆过滤器(BloomFilter)。 Bitmap: 典型的就是哈希表 缺点是,Bitmap 对于每个元素只能记录 1bit 信息,如果还想完成额外的功能,恐怕只能靠 牺牲更多的空间、时间来完成了。
布隆过滤器(推荐)
就是引入了 k(k>1)k(k>1)个相互独立的哈希函数,保证在给定的空间、误判率下,完成元素 判重的过程。 它的优点是空间效率和查询时间都远远超过一般的算法,缺点是有一定的误识别率和删除困 难。 Bloom-Filter 算法的核心思想就是利用多个不同的 Hash 函数来解决“冲突”。
Hash 存在一个冲突(碰撞)的问题,用同一个 Hash 得到的两个 URL 的值有可能相同。为了 减少冲突,我们可以多引入几个 Hash,如果通过其中的一个 Hash 值我们得出某元素不在集 合中,那么该元素肯定不在集合中。只有在所有的 Hash 函数告诉我们该元素在集合中时, 才能确定该元素存在于集合中。这便是 Bloom-Filter 的基本思想。 Bloom-Filter 一般用于在大数据量的集合中判定某元素是否存在。
缓存预热这个应该是一个比较常见的概念,相信很多小伙伴都应该可以很容易的理解,缓存 预热就是系统上线后,将相关的缓存数据直接加载到缓存系统。这样就可以避免在用户请求 的时候,先查询数据库,然后再将数据缓存的问题!用户直接查询事先被预热的缓存数据! 解决思路:
1、直接写个缓存刷新页面,上线时手工操作下;
2、数据量不大,可以在项目启动的时候自动进行加载;
3、定时刷新缓存;
除了缓存服务器自带的缓存失效策略之外(Redis 默认的有 6 中策略可供选择),我们还可
以根据具体的业务需求进行自定义的缓存淘汰,常见的策略有两种:
(1)定时去清理过期的缓存;
(2)当有用户请求过来时,再判断这个请求所用到的缓存是否过期,过期的话就去底层系 统得到新数据并更新缓存。 两者各有优劣,
第一种的缺点是维护大量缓存的 key 是比较麻烦的,第二种的缺点就是每次 用户请求过来都要判断缓存失效,逻辑相对比较复杂!具体用哪种方案,大家可以根据自己 的应用场景来权衡。
当访问量剧增、服务出现问题(如响应时间慢或不响应)或非核心服务影响到核心流程的性 能时,仍然需要保证服务还是可用的,即使是有损服务。系统可以根据一些关键数据进行自 动降级,也可以配置开关实现人工降级。 降级的最终目的是保证核心服务可用,即使是有损的。而且有些服务是无法降级的(如加入 购物车、结算)。 以参考日志级别设置预案:
(1)一般:比如有些服务偶尔因为网络抖动或者服务正在上线而超时,可以自动降级; (2)警告:有些服务在一段时间内成功率有波动(如在 95~100%之间),可以自动降级或 人工降级,并发送告警;
(3)错误:比如可用率低于 90%,或者数据库连接池被打爆了,或者访问量突然猛增到系 统能承受的最大阀值,此时可以根据情况自动降级或者人工降级;
(4)严重错误:比如因为特殊原因数据错误了,此时需要紧急人工降级。
服务降级的目的,是为了防止 Redis 服务故障,导致数据库跟着一起发生雪崩问题。因此, 对于不重要的缓存数据,可以采取服务降级策略,例如一个比较常见的做法就是,Redis 出 现问题,不去数据库查询,而是直接返回默认值给用户。
热点数据,缓存才有价值 对于冷数据而言,大部分数据可能还没有再次访问到就已经被挤出内存,不仅占用内存,而 且价值不大。频繁修改的数据,看情况考虑使用缓存 对于上面两个例子,寿星列表、导航信息都存在一个特点,就是信息修改频率不高,读取通 常非常高的场景。 对于热点数据,比如我们的某 IM 产品,生日祝福模块,当天的寿星列表,缓存以后可能读 取数十万次。再举个例子,某导航产品,我们将导航信息,缓存以后可能读取数百万次。
数据更新前至少读取两次,缓存才有意义。这个是最基本的策略,如果缓存还没有起作 用就失效了,那就没有太大价值了。 那存不存在,修改频率很高,但是又不得不考虑缓存的场景呢?有!比如,这个读取接口对 数据库的压力很大,但是又是热点数据,这个时候就需要考虑通过缓存手段,减少数据库的 压力,比如我们的某助手产品的,点赞数,收藏数,分享数等是非常典型的热点数据,但是 又不断变化,此时就需要将数据同步保存到 Redis 缓存,减少数据库压力。
1)、存储方式 Memecache 把数据全部存在内存之中,断电后会挂掉,数据不能超过内存大 小。 Redis 有部份存在硬盘上,redis 可以持久化其数据
2)、数据支持类型 memcached 所有的值均是简单的字符串,redis 作为其替代者;支持更为丰富的数据类型 ,提供 list,set,zset,hash 等数据结构的存储
3)、使用底层模型不同 它们之间底层实现方式 以及与客户端之间通信的应用协议不一样。 Redis 直接自己构建了 VM 机制 ,因为一般的系统调用系统函数的话,会浪费一定的时间 去移动和请求。
4).value 值大小不同:Redis 最大可以达到 1gb;memcache 只有 1mb。
5)redis 的速度比 memcached 快很多
6)Redis 支持数据的备份,即 master-slave 模式的数据备份。
(一)纯内存操作
(二)单线程操作,避免了频繁的上下文切换
(三)采用了非阻塞 I/O 多路复用机制
回答:一共五种
(一)String 这个其实没啥好说的,最常规的 set/get 操作,value 可以是 String 也可以是数字。一般做一 些复杂的计数功能的缓存。
(二)hash 这里 value 存放的是结构化的对象,比较方便的就是操作其中的某个字段。博主在做单点登 录的时候,就是用这种数据结构存储用户信息,以 cookieId 作为 key,设置 30 分钟为缓存 过期时间,能很好的模拟出类似 session 的效果。
(三)list 使用 List 的数据结构,可以做简单的消息队列的功能。另外还有一个就是,可以利用 lrange 命令,做基于 redis 的分页功能,性能极佳,用户体验好。
(五)sortedset sortedset多了一个权重参数 score,集合中的元素能够按 score进行排列。可以做排行榜应用, 取 TOPN 操作。
1.twemproxy,大概概念是,它类似于一个代理方式, 使用时在本需要连接 redis 的地方改 为连接 twemproxy, 它会以一个代理的身份接收请求并使用一致性 hash 算法,将请求转 接到具体 redis,将结果再返回 twemproxy。 缺点: twemproxy 自身单端口实例的压力,使用一致性 hash 后,对 redis 节点数量改变 时候的计算值的改变,数据无法自动移动到新的节点。
2.codis,目前用的最多的集群方案,基本和 twemproxy 一致的效果,但它支持在 节点数量 改变情况下,旧节点数据可恢复到新 hash 节点
3.rediscluster3.0 自带的集群,特点在于他的分布式算法不是一致性 hash,而是 hash 槽的 概念,以及自身支持节点设置从节点。具体看官方文档介绍。
主从复制,读写分离 一类是主数据库(master)一类是从数据库(slave),主数据库可以进行读写操作,当发生 写操作的时候自动将数据同步到从数据库,而从数据库一般是只读的,并接收主数据库同步 过来的数据,一个主数据库可以有多个从数据库,而一个从数据库只能有一个主数据库。
讲解下 Redis 线程模型
文件事件处理器包括分别是套接字、 I/O 多路复用程序、 文件事件分派器(dispatcher)、 以及事件处理器。使用 I/O 多路复用程序来同时监听多个套接字, 并根据套接字目前执行 的任务来为套接字关联不同的事件处理器。当被监听的套接字准备好执行连接应答 (accept)、读取(read)、写入(write)、关闭(close)等操作时, 与操作相对应的文 件事件就会产生, 这时文件事件处理器就会调用套接字之前关联好的事件处理器来处理这 些事件。
I/O 多路复用程序负责监听多个套接字, 并向文件事件分派器传送那些产生了事件的套接 字。 工作原理: 1)I/O 多路复用程序负责监听多个套接字, 并向文件事件分派器传送那些产生了事件的套 接字。
尽管多个文件事件可能会并发地出现, 但 I/O 多路复用程序总是会将所有产生事件的套接 字都入队到一个队列里面, 然后通过这个队列, 以有序(sequentially)、同步 (synchronously)、每次一个套接字的方式向文件事件分派器传送套接字: 当上一个套接 字产生的事件被处理完毕之后(该套接字为事件所关联的事件处理器执行完毕), I/O 多 路复用程序才会继续向文件事件分派器传送下一个套接字。如果一个套接字又可读又可写的 话, 那么服务器将先读套接字, 后写套接字.
对于 Redis 而言,命令的原子性指的是:一个操作的不可以再分,操作要么执行,要么不执 行。 Redis 的操作之所以是原子性的,是因为 Redis 是单线程的。 Redis 本身提供的所有 API 都是原子操作,Redis 中的事务其实是要保证批量操作的原子性。 多个命令在并发中也是原子性的吗? 不一定, 将 get 和 set 改成单命令操作,incr 。使用 Redis 的事务,或者使用 Redis+Lua== 的方式实现。
以上内容希望帮助到大家,更多免费PHP大厂PDF,PHP进阶架构视频资料,PHP精彩好文可以微信搜索关注:PHP开源社区
2021金三银四大厂面试真题集锦,必看!
四年精华PHP技术文章整理合集——PHP框架篇
四年精华PHP技术文合集——微服务架构篇
四年精华PHP技术文合集——分布式架构篇
四年精华PHP技术文合集——高并发场景篇
四年精华PHP技术文章整理合集——数据库篇