单个Redis存在不稳定性,当Redis服务宕机或硬盘故障,系统崩溃之后,就没有可用的服务了,还会造成数据的丢失 单个Redis的读写能力也是有限的 还由于互联网的三高架构,高并发,高性能,高可用
通过添加服务器的数量,提供相同的服务,从而让服务器达到一个稳定,高效的状态
单机redis的风险与问题
问题一:机器故障
硬盘故障,系统崩溃本质:数据丢失,可能对业务造成灾难性打击问题二:容量瓶颈
内存不足,一台redis内存是有限的解决方案:
为了避免单点Redis服务器故障,准备多台服务器,互相联通,将数据复制多个副本保存在不同服务器上,连接在一起,并保证数据是同步的,即使有其中一台服务器宕机,其他服务器依然可以继续提供服务,实现Redis的高可用,同时实现数据冗余备份
master
写数据执行写操作时,将出现变化的数据自动同步到slave slave:读数据,禁止写数据分三个阶段
建立连接阶段-建立slave到master的连接,使master能够识别slave,并保存slave端口号数据同步阶段-在slave初次连接master后,复制master中的所有数据到slave命令传播阶段-当master数据库状态被修改后,导致主从服务器数据库状态不一致,此时需要让主从数据同步到一致的 状态要想了解这一阶段,先了解这几个知识点:复制缓冲区
复制缓冲区,又名复制积压缓冲区,是一个先进先出的队列,用于存储服务器执行过的命令,每次传播命令,master都会将传播的命令记录下来,并存储在复制缓冲区 工作原理 组成:
偏移量(offset),用来记录已发送的信息对应的偏移量,作为下次发送信息的坐标依据字节值,存放的用户的操作命令 原理: 通过偏移量区分不同的slave当前数据传播的差异(每个slave可能接受到master的命令的数量还不一样) 总结 复制缓冲区存的是全量复制之后的用户的一些操作,因为rdb不是实时的,需要有一个地方存储在全量复制更新期间,用户的一些操作命令,全量复制之后,这些命令都会发到slave,但不是一次性全发过去,而是有一定的规则去发,分好几次发送,每次都会记录命令发到了哪个位置,下回发送就从这个地方发送要想了解这一阶段,先了解这几个知识点:复制缓冲区、服务器运行ID、心跳机制
服务器运行ID是每一台服务器每次运行的身份识别码,一台服务器多次运行可以生成多个运行id 组成:运行id由40位字符组成,是一个随机的十六进制字符 例如:fdc9ff13b9bbaab28db42b3d50f852bb5e3fcdce 作用:运行id被用于在服务器间进行传输,识别身份 如果想两次操作均对同一台服务器进行,必须每次操作携带对应的运行id,用于对方识别 实现方式:运行id在每台服务器启动时自动生成的,master在首次连接slave时,会将自己的运行ID发 送给slave,slave保存此ID,通过info Server命令,可以查看节点的runid
进入命令传播阶段候,master与slave间需要进行信息交换,使用心跳机制进行维护,实现双方连接保持在 master心跳:
指令:PING周期:由repl-ping-slave-period决定,默认10秒作用:判断slave是否在线查询:INFO replication 获取slave最后一次连接时间间隔,lag项维持在0或1视为正常 slave心跳任务指令:REPLCONF ACK {offset}周期:1秒作用1:汇报slave自己的复制偏移量,获取最新的数据变更指令作用2:判断master是否在线哨兵(sentinel)是一个分布式系统,用于对主从结构中的每台服务器进行监控,当出现故障时通过投票机制选择新的master并将所有slave连接到新的master
主机宕机,如何能够高可用的恢复正常,不用人为进行干预
注意:
哨兵也是一台redis服务器,只是不提供数据服务通常哨兵配置数量为单数工作原理博客
redis最开始使用主从模式做集群,若master宕机需要手动配置slave转为master;后来为了高可用提出来哨兵模式,该模式下有一个哨兵监视master和slave,若master宕机可自动将slave转为master,但它也有一个问题,就是不能动态扩充,哨兵模式还是只有一个master;所以在3.x提出cluster集群模式。
redis cluster在设计的时候,就考虑到了去中心化,去中间件,也就是说,集群中的每个节点都是平等的关系,都是对等的,每个节点都保存各自的数据和整个集群的状态。每个节点都和其他所有节点连接,而且这些连接保持活跃,这样就保证了我们只需要连接集群中的任意一个节点,就可以获取到其他节点的数据。 那么redis 是如何合理分配这些节点和数据的呢? Redis 集群没有并使用传统的一致性哈希来分配数据,而是采用另外一种叫做哈希槽 (hash slot)的方式来分配的。redis cluster 默认分配了 16384 个slot,当我们set一个key 时,会用CRC16算法来取模得到所属的slot,然后将这个key 分到哈希槽区间的节点上,具体算法就是:CRC16(key) % 16384。
在redis-cluster架构中,redis-master节点一般用于接收读写,而redis-slave节点则一般只用于备份,其与对应的master拥有相同的slot集合,若某个redis-master意外失效,则再将其对应的slave进行升级为临时redis-master。
redis-cluster集群详细博客1 redis-cluster集群详细博客2