Jedis&Redis持久化

    技术2025-08-01  13

    Jedis

    编程语言与redis

    ⚫ Jedis用于Java语言连接redis服务,并提供对应的操作API ⚫ Java语言连接redis服务

    JedisSpringData RedisLettuce

    ⚫ C 、C++ 、C# 、Erlang、Lua 、Objective-C 、Perl 、PHP 、Python 、Ruby 、Scala

    Jedis HelloWorld

    准备工作

    ⚫ jar包导入

    下载地址:https://mvnrepository.com/artifact/redis.clients/jedis

    ⚫ 基于maven

    <dependency> <groupId>redis.clients</groupId> <artifactId>jedis</artifactId> <version>2.9.0</version> </dependency>

    客户端连接redis

    ⚫ 连接redis

    Jedis jedis = new Jedis("localhost", 6379);

    ⚫ 操作redis

    jedis.set("name", "itheima"); jedis.get("name");

    ⚫ 关闭redis连接

    jedis.close();

    ⚫ API文档:http://xetorthio.github.io/jedis/

    Jedis简易工具类开发

    基于连接池获取连接

    ⚫ JedisPool:Jedis提供的连接池技术

    poolConfig:连接池配置对象host:redis服务地址port:redis服务端口号 public JedisPool(GenericObjectPoolConfig poolConfig, String host, int port) { this(poolConfig, host, port, 2000, (String)null, 0, (String)null); }

    封装连接参数

    ⚫ jedis.properties

    jedis.host=ip地址 jedis.port=6379 jedis.maxTotal=50 jedis.maxIdle=10

    加载配置信息

    ⚫ 静态代码块初始化资源

    static{ //读取配置文件 获得参数值 ResourceBundle rb = ResourceBundle.getBundle("jedis"); host = rb.getString("jedis.host"); port = Integer.parseInt(rb.getString("jedis.port")); maxTotal = Integer.parseInt(rb.getString("jedis.maxTotal")); maxIdle = Integer.parseInt(rb.getString("jedis.maxIdle")); poolConfig = new JedisPoolConfig(); poolConfig.setMaxTotal(maxTotal); poolConfig.setMaxIdle(maxIdle); jedisPool = new JedisPool(poolConfig,host,port); }

    获取连接

    ⚫ 对外访问接口,提供jedis连接对象,连接从连接池获取

    public static Jedis getJedis(){ Jedis jedis = jedisPool.getResource(); return jedis; }

    Jedis链接问题

    保护模式解决 ./redis-server --protected-mode no修改配置文件中的bind为 0.0.0.0

    Jedis分布式队列实现

    创建一个队列保存任务,此队列可以在任何程序(线程),任何进程,任何电脑上访问假设:你单独访问redis存储数据定义:自定义一个类封装所有添加任务以及获取人的细节信息 定义一个接口(存储数据, 取数据)定义jedis链接

    代码实现:

    接口 package com.itheima; import java.util.List; public interface DistributedInterface { //发送数据 void faSong(String key); //读取数据 List<String> duQu(Integer start, Integer stop); } 实现类 package com.itheima; import redis.clients.jedis.Jedis; import java.util.List; public class DistributedImpl implements DistributedInterface{ Jedis jedis; private final String name = "names"; //封装连接 public DistributedImpl() { jedis = new Jedis("127.0.0.1",6379); } @Override public void faSong(String key) { jedis.lpush(name,key); } @Override public List<String> duQu(Integer start, Integer stop) { return jedis.lrange(name,start,stop); } } 测试类 package com.itheima; import org.junit.Test; public class TestDistributde { @Test public void faSong(){ DistributedInterface distributedInterface = new DistributedImpl(); distributedInterface.faSong("zhangsan"); } @Test public void duQu(){ DistributedInterface distributedInterface = new DistributedImpl(); System.out.println(distributedInterface.duQu(0,-1)); } }

    Redis 持久化

    为什么要持久化?

    - 意外的断电

    什么是持久化

    利用永久性存储介质将数据进行保存,在特定的时间将保存的数据进行恢复的工作机制称为持久化 持久化用于防止数据的意外丢失,确保数据安全性

    持久化过程保存什么

    ⚫ 将当前数据状态进行保存,快照形式,存储数据结果,存储格式简单,关注点在数据 ⚫ 将数据的操作过程进行保存,日志形式,存储操作过程,存储格式复杂,关注点在数据的操作过程

    持久化方式

    ◆ RDB ◆ AOF

    RDB

    RDB启动方式 —— save指令

    ⚫ 手动执行一次保存操作

    save

    RDB启动方式 —— save指令相关配置

    ⚫ 设置本地数据库文件名,默认值为 dump.rdb,通常设置为dump-端口号.rdb

    dbfilename filename

    ⚫ 设置存储.rdb文件的路径,通常设置成存储空间较大的目录中,目录名称data

    dir path

    ⚫ 设置存储至本地数据库时是否压缩数据,默认yes,设置为no,节省 CPU 运行时间,但存储文件变大

    rdbcompression yes|no

    ⚫ 设置读写文件过程是否进行RDB格式校验,默认yes,设置为no,节约读写10%时间消耗,单存在数据损坏的风险

    rdbchecksum yes|no

    RDB启动方式 —— save指令工作原理

    RDB启动方式 —— bgsave指令

    ⚫ 手动启动后台保存操作,但不是立即执行

    bgsave

    RDB启动方式 —— bgsave指令相关配置

    ⚫ 后台存储过程中如果出现错误现象,是否停止保存操作,默认yes

    stop-writes-on-bgsave-error yes|no

    ⚫ 其他

    dbfilename filename dir path rdbcompression yes|no rdbchecksum yes|no

    RDB启动方式 —— bgsave指令工作原理

    RDB启动方式 ——save配置

    ⚫ 设置自动持久化的条件,满足限定时间范围内key的变化数量达到指定数量即进行持久化

    save second changes

    ⚫ 参数 second:监控时间范围 changes:监控key的变化量 ⚫ 范例

    save 900 1 save 300 10 save 60 10000

    RDB启动方式 ——save配置工作原理

    RDB三种启动方式对比

    RDB特殊启动形式

    ⚫ 服务器运行过程中重启

    debug reload

    ⚫关闭服务器时指定保存数据

    shutdown save

    ⚫ 全量复制

    RDB优点

    ⚫ RDB是一个紧凑压缩的二进制文件,存储效率较高 ⚫ RDB内部存储的是redis在某个时间点的数据快照,非常适合用于数据备份,全量复制等场景 ⚫ RDB恢复数据的速度要比AOF快很多 ⚫ 应用:服务器中每X小时执行bgsave备份,并将RDB文件拷贝到远程机器中,用于灾难恢复。

    RDB缺点

    ⚫ RDB方式无论是执行指令还是利用配置,无法做到实时持久化,具有较大的可能性丢失数据 ⚫ bgsave指令每次运行要执行fork操作创建子进程,要牺牲掉一些性能 ⚫ Redis的众多版本中未进行RDB文件格式的版本统一,有可能出现各版本服务之间数据格式无法兼容现象

    AOF

    RDB存储的弊端

    ⚫ 存储数据量较大,效率较低,基于快照思想,每次读写都是全部数据,当数据量巨大时,效率非常低 ⚫ 大数据量下的IO性能较低 ⚫ 基于fork创建子进程,内存产生额外消耗 ⚫ 宕机带来的数据丢失风险

    解决思路

    ⚫ 不写全数据,仅记录部分数据 ⚫ 降低区分数据是否改变的难度,改记录数据为记录操作过程 ⚫ 对所有操作均进行记录,排除丢失数据的风险

    AOF概念

    ⚫ AOF(append only file)持久化:以独立日志的方式记录每次写命令,重启时再重新执行AOF文件中命令 达到恢复数据的目的。与RDB相比可以简单理解为由记录数据改为记录数据产生的变化 ⚫ AOF的主要作用是解决了数据持久化的实时性,目前已经是Redis持久化的主流方式

    AOF写数据过程

    启动AOF相关配置

    ⚫ 开启AOF持久化功能,默认no,即不开启状态

    appendonly yes|no

    ⚫ AOF持久化文件名,默认文件名为appendonly.aof,建议配置为appendonly-端口号.aof

    appendfilename filename

    ⚫ AOF持久化文件保存路径,与RDB持久化文件保持一致即可

    dir

    ⚫ AOF写数据策略,默认为everysec

    appendfsync always|everysec|no

    AOF写数据三种策略(appendfsync)

    ⚫ always(每次):每次写入操作均同步到AOF文件中数据零误差,性能较低,不建议使用。

    ⚫ everysec(每秒):每秒将缓冲区中的指令同步到AOF文件中,在系统突然宕机的情况下丢失1秒内的数据数据准确性较高,性能较高,建议使用,也是默认配置

    ⚫ no(系统控制):由操作系统控制每次同步到AOF文件的周期整体过程不可控

    AOF写数据遇到的问题

    AOF重写

    随着命令不断写入AOF,文件会越来越大,为了解决这个问题,Redis引入了AOF重写机制压缩文件体积。AOF文件重 写是将Redis进程内的数据转化为写命令同步到新AOF文件的过程。简单说就是将对同一个数据的若干个条命令执行结 果转化成最终结果数据对应的指令进行记录。

    AOF重写作用

    ⚫ 降低磁盘占用量,提高磁盘利用率 ⚫ 提高持久化效率,降低持久化写时间,提高IO性能 ⚫ 降低数据恢复用时,提高数据恢复效率

    AOF重写规则

    ⚫ 进程内具有时效性的数据,并且数据已超时将不再写入文件 ⚫ 非写入类的无效指令将被忽略,只保留最终数据的写入命令 如del key1、 hdel key2、srem key3、set key4 111、set key4 222等 如select指令虽然不更改数据,但是更改了数据的存储位置,此类命令同样需要记录 ⚫ 对同一数据的多条写命令合并为一条命令 如lpush list1 a、lpush list1 b、 lpush list1 c 可以转化为:lpush list1 a b c。 为防止数据量过大造成客户端缓冲区溢出,对list、set、hash、zset等类型,每条指令最多写入64个元素

    AOF重写方式

    ⚫ 手动重写

    bgrewriteaof

    ⚫ 自动重写

    auto-aof-rewrite-min-size size auto-aof-rewrite-percentage percentage

    AOF手动重写 —— bgrewriteaof指令工作原理

    AOF自动重写方式

    ⚫ 自动重写触发条件设置

    auto-aof-rewrite-min-size size auto-aof-rewrite-percentage percent

    ⚫ 自动重写触发比对参数( 运行指令info Persistence获取具体信息 )

    aof_current_size aof_base_size

    ⚫ 自动重写触发条件

    AOF工作流程

    AOF重写流程

    RDB与AOF区别

    RDB VS AOF

    RDB与AOF的选择之惑

    ⚫ 对数据非常敏感,建议使用默认的AOF持久化方案

    AOF持久化策略使用everysecond,每秒钟fsync一次。该策略redis仍可以保持很好的处理性能,当出 现问题时,最多丢失0-1秒内的数据。

    注意:由于AOF文件存储体积较大,且恢复速度较慢

    ⚫ 数据呈现阶段有效性,建议使用RDB持久化方案

    数据可以良好的做到阶段内无丢失(该阶段是开发者或运维人员手工维护的),且恢复速度较快,阶段 点数据恢复通常采用RDB方案注意:利用RDB实现紧凑的数据持久化会使Redis降的很低,慎重总结:

    ⚫ 综合比对

    RDB与AOF的选择实际上是在做一种权衡,每种都有利有弊如不能承受数分钟以内的数据丢失,对业务数据非常敏感,选用AOF如能承受数分钟以内的数据丢失,且追求大数据集的恢复速度,选用RDB灾难恢复选用RDB双保险策略,同时开启 RDB 和 AOF,重启后,Redis优先使用 AOF 来恢复数据,降低丢失数据的量
    Processed: 0.026, SQL: 9