【Redis】Redis基础教程(5)
前言:
推荐免费Redis基础讲解视频:【狂神说Java】Redis最新超详细版教程通俗易懂_哔哩哔哩_bilibili
持久化RDB操作
什么是RDB
RDB(Redis Database)
在指定的时间间隔内将内存中的数据库集快照写入磁盘,即Snapshot快照;它恢复时将快照文件直接读到内存中;
Redis会单独创建(fork)一个子进程来进行持久化,会将数据写入到一个临时文件中,待持久化过程结束,再用这个临时文件替换上次持久化好的文件。整个过程主进程不进行任何IO操作;这就确保了极高的性能,如果需要进行大规模数据恢复,且对于数据恢复的完整性不是非常敏感,那RDB方式比AOF更高效;(RDB的缺点时最后一次持久化数据可能丢失);
rdb保存的文件是dump.rdb
1 | The filename where to dump the DB |
默认快照触发机制
1 | save 3600 1 # 3600s内修改了1次 |
自定义快照触发机制
1 | save 60 5 # 60s内修改了5次 |
删除之前的dump.rdb
文件
1 | [root@jokerdig myconfig]# cd .. |
复制会话,启动redis,保存配置文件,并写入5个值,然后结束Redis进程
1 | 127.0.0.1:6379> save # 保存配置文件 |
查看目录
1 | [root@jokerdig bin]# ls |
重新连接redis,获取刚刚设置的值
可以看到刚才设置的值都被保存下来了
1 | 127.0.0.1:6379> get k1 |
当我们flushall后,也会默认生成一个dump.rdb文件
触发机制
- save的规则满足情况下,会触发rdb规则;
- 执行flushall命令,也会触发rdb规则;
- 退出redis,也会产生rdb文件;
测试完记得将快照配置改回默认
如何恢复rdb文件
只需要将rdb文件放到redis启动目录就可以,redis会在启动时自动检查dump.rdb文件并恢复其中的数据;
rdb优点和缺点
优点:
- 适合大规模数据恢复;
- 对数据完整性要求不高;
缺点:
- 需要一定时间间隔进程操作,如果redis意外当即,最后一次数据会丢失;
- fork进程会占用一定内存空间;
持久化AOF操作
什么时AOF
AOF(Append Only File)
以日志的形式来记录每个写操作,将Redis执行过的所有指令记录下来(读操作不会记录),只许追加文件但不可以改写文件,redis启动之初会读取该文件重新构建数据,即redis重启就根据日志文件内容将写指令从前到后执行一次以完成数据恢复工作;
aof保存的文件是appendonly.aof
1 | appendfilename "appendonly.aof" |
简单测试
启用appendonly
1 | appendonly yes # 默认是no 我们测试改为yes |
重启redis服务
1 | 127.0.0.1:6379> shutdown |
查看配置文件生成
1 | [root@jokerdig bin]# ls |
在redis存入值
1 | 127.0.0.1:6379> set k1 v1 |
查看aof文件
1 | [root@jokerdig appendonlydir]# cat appendonly.aof.1.incr.aof |
aof文件修复
如果aof文件出现异常或被破坏,可以使用目录下的redis-check-aof
进行修复
1 | [root@jokerdig bin]# ls |
测试结束记得关闭aof
aof优点和缺点
优点:
- 每次修改都同步,文件完整性更好;
- 默认每秒同步一次;
缺点:
- aof文件大于rdb,修复的速度比rdb慢;
- aof运行效率也比rdb慢;
Redis订阅发布
概述
Redis发布订阅(pub/sub)是一种消息通信模式:发送者(pub)发送消息,订阅者(sub)接收消息;
Redsi客户端可以订阅任意数量的频道。
订阅、发布消息图
命令
1 | 订阅一个或多个符合和给定模式的频道 |
测试
订阅频道
1 | 127.0.0.1:6379> subscribe jokerdig |
对频道发送信息
1 | 复制会话,开启一个新的redis客户端 |
观察频道窗口
1 | 127.0.0.1:6379> subscribe jokerdig |
原理
Redis使用C语言实现,通过分析Redis源码中的pubsub.c文件,了解发布和订阅机制的底层原理;
Redis通过publish
、subscribe
和psubscribe
等命令实现发布和订阅功能;
通过subscribe
命令订阅某个频道后,redis-server里维护了一个字典,即一个个channel;而字典的值是一个链表,其中保存了所有订阅这个channel的客户端;subscribe
命令就是将客户端添加到channel订阅的链表中。
通过publish
命令向订阅者发送消息,redis-server会使用给定的频道作为键,在它所维护的channel字典中查找记录订阅该频道的所有客户端的链表,并遍历;然后将消息发给所有订阅者。
Pub/Sub就是发布和订阅,在Redis中,你可以设定某一个key值进行消息发布和消息订阅;当一个key值进行消息发布后,所有订阅它的客户端都会收到响应的消息。可以通过该功能实现实时消息发布等功能。
Redis主从复制
概述
主从复制,是指将一台Redis服务器的数据,复制到其他的Redis服务器。前者称为主节点(master/leader),后者称为从节点(slave/follower),数据的复制是单向的,只能由主节点到从节点,Master以写为主,Slave以读为主。
默认情况下,每台Redis服务器都是主节点;且一个主节点可以有多个从节点(或没有从节点),但一个从节点只能有一个主节点。
主从复制的作用主要包括:
- 数据冗余:主从复制实现了数据的热备份,是持久化之外的一种数据冗余方式;
- 故障恢复:当节点出现问题,可由从节点提供服务,实现快速的故障恢复,实际上是一种服务的冗余;
- 负载均衡:在主从复制的基础上,配合读写分离,可以由主节点提供写服务,从节点提供读服务,从而分担服务器负载;尤其是在写少读多的场景下,通过多个从节点分担读负载,很大程度上提高Redis服务器的并发量;
- 高可用基石:主从复制还是哨兵和集群能够实施的基础,因此说主从复制是Redis高可用的基础;
一般来说,要将Redis运用于工程项目中,只是用一台Redis是不太可能的,因为:
- 从结构上,单个Redis服务器会发生单点故障,并且一台服务器需要处理所有的请求负载,压力较大;
- 从容量上,单个Redis服务器内存容量有限,就算一台Redis服务器内存容量为256GB,也不能将所有内存作为Redis存储内存,一般来说,单台Redis最大使用内存不应该超过20G;
多读少写的服务架构图
Redis集群环境搭建
查看主从复制信息
1 | 127.0.0.1:6379> info replication |
准备:保证打开四个会话
复制配置文件
1 | [root@jokerdig myconfig]# cp redis.conf redis79.conf |
修改配置文件
三个端口:6379,6380,6381
1 | 要修改的内容,修改为对应的端口号 |
分别在三个会话启动三个不同的服务
1 | 第一个会话 |
Redis主从复制原理
一主二从
默认情况,每台Redis服务器都是主节点,我们一般只用配置从机;
这里我们使用79当作主机,80和81当作从机;
命令配置
1 | 80端口配置从机 |
配置文件配置
1 | 使用命令配置都是暂时的,实际开发更多是在配置文件中配置,是永久的; |
复制细节
主机可以写,从机只能写不能读!
主机中所有信息都会被从机保存!
1 | 主机 |
主机宕机,从机是否能读
1 | 关闭主机 |
如果使用命令行来配置主从复制,如果从机宕机后重启,就会自动变为主机,这时也无法读取6379主机的值;但是只要将它再次变为6379的从机,便又能读取主机的值;
复制原理
Slave启动成功连接到master后会发送一个sync同步命令;
Master接到命令,启动后台存盘进程,同时收集所有接收到的用户修改数据集的命令,在后台进程执行完毕后,master将传送整个数据文件到slave,并完成一次完全同步(全量复制)。
全量复制:slave服务在接收到数据库文件数据后,将其存盘并加载到内存中;
增量复制:master继续将收集到的新的修改命令依次传给slave,完成同步;
宕机后手动配置主机
模式转变
1 | 81端口会话 |
如果主机宕机,能否从剩余的两个从节点中选出一个主节点;
方式一:手动配置
1 | 假设想把80配置为主机 |
方式二:哨兵模式
哨兵模式详解
概述
主从切换方法:当主服务器宕机后,需要手动把一台服务器切换为主服务器,就需要手动切换,费时费力,同时还会造成一段时间内服务不可用,这种方法并不值得推荐;从Redis2.8开始正式提供了Sentinel(哨兵)架构来解决。
哨兵模式是一种特殊的模式,首先Redis提供了哨兵的命令,哨兵是一个独立的进程,哨兵通过发送命令,等待Redis服务器响应,从而监控运行的多个Redis实例。
这里哨兵的两个作用:
- 通过发送命令,让Redis服务器返回监控其运行状态,包括主服务器和从服务器;
- 当哨兵检测到Master宕机,会自动将slave切换为master,然后通过发布订阅模式通知其他的从服务器,修改配置文件,让它们切换主机;
然而一个哨兵进程对Redis服务器进行监控,可能会出现问题;因此,我们可以使用多个哨兵进行监控,各个哨兵之间还会进行监控,这样就形成了哨兵模式。
假设主服务器宕机,哨兵1先检测到这个记过,系统并不会马上进行failover[故障转移]过程,仅仅是哨兵1认为主服务器不可用,这个现象称为主观下线;当后面的哨兵也检测到主服务器不可用,并且数量达到一定值时,那么哨兵之间会进行一次投票,投票结果由一个哨兵发起,进行failover[故障转移]操作。切换成功后,就会通过发布订阅模式,让各个哨兵把自己监控的从服务器实现切换主机,这个过程称为客观下线。
测试
-
哨兵模式简单配置
1
2
3
4[root@jokerdig myconfig]# vim sentinel.conf
哨兵模式配置
sentinel monitor 被监控名称 主机地址 端口 投票
sentinel monitor myredis 127.0.0.1 6379 1 -
启动哨兵
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35[root@jokerdig myconfig]# cd ..
[root@jokerdig bin]# ls
6379.log dump6380.rdb redis-check-aof
6380.log dump6381.rdb redis-check-rdb
6381.log dump.rdb redis-cli
appendonlydir myconfig redis-sentinel
dump6379.rdb redis-benchmark redis-server
[root@jokerdig bin]# redis-sentinel myconfig/sentinel.conf # 启动哨兵模式
66635:X 20 Sep 2022 11:01:13.562 # oO0OoO0OoO0Oo Redis is starting oO0OoO0OoO0Oo
66635:X 20 Sep 2022 11:01:13.562 # Redis version=7.0.4, bits=64, commit=00000000, modified=0, pid=66635, just started
66635:X 20 Sep 2022 11:01:13.562 # Configuration loaded
66635:X 20 Sep 2022 11:01:13.563 * monotonic clock: POSIX clock_gettime
_._
_.-``__ ''-._
_.-`` `. `_. ''-._ Redis 7.0.4 (00000000/0) 64 bit
.-`` .-```. ```\/ _.,_ ''-._
( ' , .-` | `, ) Running in sentinel mode
|`-._`-...-` __...-.``-._|'` _.-'| Port: 26379
| `-._ `._ / _.-' | PID: 66635
`-._ `-._ `-./ _.-' _.-'
|`-._`-._ `-.__.-' _.-'_.-'|
| `-._`-._ _.-'_.-' | https://redis.io
`-._ `-._`-.__.-'_.-' _.-'
|`-._`-._ `-.__.-' _.-'_.-'|
| `-._`-._ _.-'_.-' |
`-._ `-._`-.__.-'_.-' _.-'
`-._ `-.__.-' _.-'
`-._ _.-'
`-.__.-'
66635:X 20 Sep 2022 11:01:13.563 # Sentinel ID is 909001b34323b4594cf8ecfb54cdfac7362be8b1
66635:X 20 Sep 2022 11:01:13.563 # +monitor master myredis 127.0.0.1 6379 quorum 1
66635:X 20 Sep 2022 11:02:03.798 * +slave slave 127.0.0.1:6381 127.0.0.1 6381 @ myredis 127.0.0.1 6379
66635:X 20 Sep 2022 11:02:03.802 * Sentinel new configuration saved on disk -
测试主机宕机后的操作
1
2
3
4
5
6
7
8主服务器宕机
127.0.0.1:6379> keys *
1) "k1"
127.0.0.1:6379> get k1
"v1"
127.0.0.1:6379> shutdown
not connected> exit
[root@jokerdig bin]#宕机后哨兵进程的变化
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
1866635:X 20 Sep 2022 11:04:09.945 # +vote-for-leader 909001b34323b4594cf8ecfb54cdfac7362be8b1 1
66635:X 20 Sep 2022 11:04:09.945 # +elected-leader master myredis 127.0.0.1 6379
66635:X 20 Sep 2022 11:04:09.945 # +failover-state-select-slave master myredis 127.0.0.1 6379
66635:X 20 Sep 2022 11:04:10.045 # +selected-slave slave 127.0.0.1:6380 127.0.0.1 6380 @ myredis 127.0.0.1 6379
66635:X 20 Sep 2022 11:04:10.045 * +failover-state-send-slaveof-noone slave 127.0.0.1:6380 127.0.0.1 6380 @ myredis 127.0.0.1 6379
66635:X 20 Sep 2022 11:04:10.145 * +failover-state-wait-promotion slave 127.0.0.1:6380 127.0.0.1 6380 @ myredis 127.0.0.1 6379
66635:X 20 Sep 2022 11:04:10.416 * Sentinel new configuration saved on disk
66635:X 20 Sep 2022 11:04:10.416 # +promoted-slave slave 127.0.0.1:6380 127.0.0.1 6380 @ myredis 127.0.0.1 6379
66635:X 20 Sep 2022 11:04:10.416 # +failover-state-reconf-slaves master myredis 127.0.0.1 6379
66635:X 20 Sep 2022 11:04:10.475 * +slave-reconf-sent slave 127.0.0.1:6381 127.0.0.1 6381 @ myredis 127.0.0.1 6379
66635:X 20 Sep 2022 11:04:11.451 * +slave-reconf-inprog slave 127.0.0.1:6381 127.0.0.1 6381 @ myredis 127.0.0.1 6379
66635:X 20 Sep 2022 11:04:11.451 * +slave-reconf-done slave 127.0.0.1:6381 127.0.0.1 6381 @ myredis 127.0.0.1 6379
66635:X 20 Sep 2022 11:04:11.509 # +failover-end master myredis 127.0.0.1 6379
66635:X 20 Sep 2022 11:04:11.510 # +switch-master myredis 127.0.0.1 6379 127.0.0.1 6380
66635:X 20 Sep 2022 11:04:11.510 * +slave slave 127.0.0.1:6381 127.0.0.1 6381 @ myredis 127.0.0.1 6380
66635:X 20 Sep 2022 11:04:11.510 * +slave slave 127.0.0.1:6379 127.0.0.1 6379 @ myredis 127.0.0.1 6380
66635:X 20 Sep 2022 11:04:11.513 * Sentinel new configuration saved on disk
66635:X 20 Sep 2022 11:04:41.516 # +sdown slave 127.0.0.1:6379 127.0.0.1 6379 @ myredis 127.0.0.1 6380可以看到6380端口的从服务器变为主服务器了
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15127.0.0.1:6380> info replication
Replication
role:master
connected_slaves:1
slave0:ip=127.0.0.1,port=6381,state=online,offset=150252,lag=1
master_failover_state:no-failover
master_replid:b5a36829f4b2eb7017c6a4decfb7d17a1e92befe
master_replid2:4022369b763ca44e48e404733389cae31f467e55
master_repl_offset:150384
second_repl_offset:126230
repl_backlog_active:1
repl_backlog_size:1048576
repl_backlog_first_byte_offset:1985
repl_backlog_histlen:148400
127.0.0.1:6380>如果这时候主机恢复了,他会变为新主机的从机
哨兵模式优缺点
优点:
- 哨兵集群,一般基于主从复制模式,所有主从配置优点,它都有;
- 主从可以切换,故障可以转移,系统可用性更好;
- 哨兵模式就是主从模式的升级,从手动到自动;
缺点:
- Redis不好在线扩容,集群容量一旦达到上线,在线扩容就十分麻烦;
哨兵模式全部配置
1 | Example sentinel.conf |
缓存穿透和雪崩
Redis缓存的使用,极大的提升了应用程序的性能和效率,特别是数据查询;同时也带来了一些问题;其中,最重要就是数据一致性的问题,从严格意义上将,如果对数据一致性要求很高,那么就不推荐使用缓存。
还有一些典型的问题:缓存穿透、缓存雪崩和缓存击穿。
缓存穿透
概述
缓存穿透的概念很简单,用户想要查询一个数据,发现redis内存数据库没有该数据,也就是缓存没有命中,于是向持久层数据库查询,发现也没有,结果就是本次查询失败。当用户很多的时候,缓存都没有命中,于是都去请求了持久层数据库,这会给持久层数据库造成很大的压力,相当于出现了缓存穿透
解决方案
布隆过滤器
布隆过滤器是一种数据结构,对所有可能查询的参数以hash形式存储,在控制层先进行校验,不符合则丢弃,从而避免了对底层存储系统的查询压力;
缓存空对象
当存储层不命中后,即使返回的空对象也将其缓存起来,同时会设置一个过期时间,之后再访问,之后再访问这个数据将会从缓存中获取,保护了后端数据源;
这种方法存在问题:
- 如果空值能够被缓存起来,就意味着缓存需要更多的空间存储这些空值的键;
- 即使对控制设置了过期时间,还是会存在缓存层和存储层的数据会有一段时间窗口的不一致,这对于需要保持一致性的业务会有影响;
缓存击穿
概述
这里需要注意和缓存击穿的区别,缓存击穿,是指一个key非常热点,再不停的扛着大并发,大并发集中对这一点进行访问,当这个key在失效的瞬间,持续的大量并发就穿破缓存,直接请求数据库来查询最新的数据,并写回缓存,会导致数据库瞬间压力过大。
解决方案
设置热点数据永不过期
从缓存层面来看,没有设置过期时间,所以不会出现热点key过期后产生的问题;
加互斥锁
分布式锁:使用分布式锁,保证对于每个key同时只有一个线程去查询后端服务,其他线程没有获得分布式锁的权限,因此只需要等待即可。这种方式将高并发的压力转移到分布式锁,因此对分布式锁的考验很大。
缓存雪崩
概述
缓存雪崩,指在某一个时间段,缓存集中过期失效,此时查询都落在数据库上,设定失效时间失效,在失效的时候会产生周期性的压力波峰。所有请求都到存储层,存储层调用量暴增,造成存储层也会挂掉。
当然最致命不是缓存集中过期,而是缓存服务器某个节点宕机或者断网,自然形成了缓存雪崩,对服务器造成的压力是不可预知的。
解决方案
redis高可用
设置redis集群保证单个redis缓存服务器宕机不影响整体缓存的运行。
限流降级
这个解决方案的思想是,在缓存失效后,通过加锁或者队列来控制读数据库写缓存的线程量,例如对某个key只允许一个线程查询数据和写缓存,其他线程需要等待。
数据预热
在正式部署之前,把可能需要大量的数据先访问一遍,这样一些需要大量访问的数据就会预先加载到缓存中,在即将发生大量并发访问前,手动触发加载缓存中不同的key,设置不同的过期时间,让缓存失效时间尽可能均匀。