Redis - zhongjiajie/zhongjiajie.github.com GitHub Wiki

Redis

文档

数据建模示例

Redis基础

  • 清空命令: flushdbclears currently active database, flushallclears all the existing databases
  • keys *: 可以查看当前数据库的全部keys,方便但是如果key过多会导致redis锁住且cpu飙升,禁止在生产环境使用

redis关闭、重启、开启

/etc/init.d/redis-server stop
/etc/init.d/redis-server start
/etc/init.d/redis-server restart

cli相关

  • 输入密码登录: redis-cli -a password
  • 切换数据库: select 0/1/2/3/4/5
  • 删除当前数据库中的所有Key: flushdb
  • 删除所有数据库中的key: flushall
  • 删除指定的key,通过bash命令连用: redis-cli keys pattern | xargs redis-cli del
  • 查看key的类型: type <key>
  • ttl <key>: Returns the remaining time(seconds) to live of a key that has a timeout,Time complexity: O(1)
    • 返回非-1或者-2的值,代表key还剩下的时间seconds
    • The command returns -2 if the key does not exist.(Starting with Redis 2.8)
    • The command returns -1 if the key exists but has no associated expire.(Starting with Redis 2.8)
  • pttl <key>: Returns the remaining time(milliseconds) to live of a key that has a timeout,Time complexity: O(1),其他的和ttl类似

数据导入导出

  • Redis Mass Insertion: 快速大规模导入redis
    • import data from mysql to redis: mass insertion例子,该例子的是LINUX系统的例子,win下要将所有命令改成\r\n包括最后一个。windows和linux的换行不一样,mass insertion用到了换行(\n, \r\n),可以通过通信协议看看是不是想要的格式
    • How to use Redis mass insertionhexdump -C检测格式是否自己想要的。echo -n '*3\r\n$3\r\nset\r\n$3\r\nkey\r\n$5\r\nvalue\r\n' | hexdump -C

持久化

有RDB和AOF持久化。可以同时使用 AOF 持久化和 RDB 持久化。在这种情况下,当 Redis 重启时,它会优先使用 AOF 文件来还原数据集,因为 AOF 文件保存的数据集通常比 RDB 文件所保存的数据集更完整。也可以关闭持久化功能,让数据只在服务器运行时存在,详情

RDB

RDB 持久化可以在指定的时间间隔内生成数据集的时间点快照(point-in-time snapshot)。在默认情况下,Redis将数据库快照保存在名字为dump.rdb的二进制文件中。 你可以对 Redis 进行设置, 让它在“ N 秒内数据集至少有 M 个改动”这一条件被满足时, 自动保存一次数据集。save N M 当 Redis 需要保存 dump.rdb 文件时, 服务器执行以下操作:

  • Redis 调用 fork() ,同时拥有父进程和子进程。
  • 子进程将数据集写入到一个临时 RDB 文件中。
  • 当子进程完成对新 RDB 文件的写入时,Redis 用新 RDB 文件替换原来的 RDB 文件,并删除旧的 RDB 文件。
  • 这种工作方式使得 Redis 可以从写时复制(copy-on-write)机制中获益。

RDB优点

  • RDB 是一个非常紧凑(compact)的文件,它保存了 Redis 在某个时间点上的数据集。 这种文件非常适合用于进行备份: 比如说,你可以在最近的 24 小时内,每小时备份一次 RDB 文件,并且在每个月的每一天,也备份一个 RDB 文件。 这样的话,即使遇上问题,也可以随时将数据集还原到不同的版本。
  • RDB 非常适用于灾难恢复(disaster recovery):它只有一个文件,并且内容都非常紧凑,可以(在加密后)将它传送到别的数据中心,或者亚马逊 S3 中。
  • RDB 可以最大化 Redis 的性能:父进程在保存 RDB 文件时唯一要做的就是 fork 出一个子进程,然后这个子进程就会处理接下来的所有保存工作,父进程无须执行任何磁盘 I/O 操作。
  • RDB 在恢复大数据集时的速度比 AOF 的恢复速度要快。

RDB缺点

  • 如果你需要尽量避免在服务器故障时丢失数据,那么 RDB 不适合你。 虽然 Redis 允许你设置不同的保存点(save point)来控制保存 RDB 文件的频率, 但是, 因为RDB 文件需要保存整个数据集的状态, 所以它并不是一个轻松的操作。 因此你可能会至少 5 分钟才保存一次 RDB 文件。 在这种情况下, 一旦发生故障停机, 你就可能会丢失好几分钟的数据。
  • 每次保存 RDB 的时候,Redis 都要 fork() 出一个子进程,并由子进程来进行实际的持久化工作。 在数据集比较庞大时, fork() 可能会非常耗时,造成服务器在某某毫秒内停止处理客户端; 如果数据集非常巨大,并且 CPU 时间非常紧张的话,那么这种停止时间甚至可能会长达整整一秒。 虽然 AOF 重写也需要进行 fork() ,但无论 AOF 重写的执行间隔有多长,数据的耐久性都不会有任何损失。

AOF

AOF(append-only file) 持久化记录服务器执行的所有写操作命令,并在服务器启动时,通过重新执行这些命令来还原数据集。 AOF 文件中的命令全部以 Redis 协议的格式来保存,新命令会被追加到文件的末尾。 Redis 还可以在后台对 AOF 文件进行重写(rewrite),使得 AOF 文件的体积不会超出保存数据集状态所需的实际大小。

AOF优点

  • 使用 AOF 持久化会让 Redis 变得非常耐久(much more durable):你可以设置不同的 fsync 策略,比如无 fsync ,每秒钟一次 fsync ,或者每次执行写入命令时 fsync 。 AOF 的默认策略为每秒钟 fsync 一次,在这种配置下,Redis 仍然可以保持良好的性能,并且就算发生故障停机,也最多只会丢失一秒钟的数据( fsync 会在后台线程执行,所以主线程可以继续努力地处理命令请求)。
  • AOF 文件是一个只进行追加操作的日志文件(append only log), 因此对 AOF 文件的写入不需要进行 seek , 即使日志因为某些原因而包含了未写入完整的命令(比如写入时磁盘已满,写入中途停机,等等), redis-check-aof 工具也可以轻易地修复这种问题。
  • Redis 可以在 AOF 文件体积变得过大时,自动地在后台对 AOF 进行重写: 重写后的新 AOF 文件包含了恢复当前数据集所需的最小命令集合。 整个重写操作是绝对安全的,因为 Redis 在创建新 AOF 文件的过程中,会继续将命令追加到现有的 AOF 文件里面,即使重写过程中发生停机,现有的 AOF 文件也不会丢失。 而一旦新 AOF 文件创建完毕,Redis 就会从旧 AOF 文件切换到新 AOF 文件,并开始对新 AOF 文件进行追加操作。
  • AOF 文件有序地保存了对数据库执行的所有写入操作, 这些写入操作以 Redis 协议的格式保存, 因此 AOF 文件的内容非常容易被人读懂, 对文件进行分析(parse)也很轻松。 导出(export) AOF 文件也非常简单: 举个例子, 如果你不小心执行了 FLUSHALL 命令, 但只要 AOF 文件未被重写, 那么只要停止服务器, 移除 AOF 文件末尾的 FLUSHALL 命令, 并重启 Redis , 就可以将数据集恢复到 FLUSHALL 执行之前的状态。

AOF缺点

  • 对于相同的数据集来说,AOF 文件的体积通常要大于 RDB 文件的体积。
  • 根据所使用的 fsync 策略,AOF 的速度可能会慢于 RDB 。 在一般情况下, 每秒 fsync 的性能依然非常高, 而关闭 fsync 可以让 AOF 的速度和 RDB 一样快, 即使在高负荷之下也是如此。 不过在处理巨大的写入载入时,RDB 可以提供更有保证的最大延迟时间(latency)。
  • AOF 在过去曾经发生过这样的 bug : 因为个别命令的原因,导致 AOF 文件在重新载入时,无法将数据集恢复成保存时的原样。 (举个例子,阻塞命令 BRPOPLPUSH source destination timeout 就曾经引起过这样的 bug 。) 测试套件里为这种情况添加了测试: 它们会自动生成随机的、复杂的数据集, 并通过重新载入这些数据来确保一切正常。 虽然这种 bug 在 AOF 文件中并不常见, 但是对比来说, RDB 几乎是不可能出现这种 bug 的。

RDB vs AOF

  • 一般来说, 如果想达到足以媲美 PostgreSQL 的数据安全性, 你应该同时使用两种持久化功能。
  • 如果你非常关心你的数据, 但仍然可以承受数分钟以内的数据丢失, 那么你可以只使用 RDB 持久化。
  • 有很多用户都只使用 AOF 持久化, 但我们并不推荐这种方式: 因为定时生成 RDB 快照(snapshot)非常便于进行数据库备份, 并且 RDB 恢复数据集的速度也要比 AOF 恢复的速度要快, 除此之外, 使用 RDB 还可以避免之前提到的 AOF 程序的 bug 。

HA

sentinel

sentinel集群failover过程

一次failover的过程如下:

  • 由sentinel主动发起failover或者发现主服务器已经进入客观下线状态
  • sentinel对我们的当前纪元(epoch)进行自增,并尝试在这个纪元中当选为此次failover的总指挥
  • 如果当选失败,那么在设定的故障迁移超时时间的两倍之后,重新尝试当选。如果当选成功,那么执行以下步骤
  • 选出一个从redis实例,并将它升级为主redis实例
  • 向被选中的从redis实例发送 SLAVEOF NO ONE 命令,让它转变为主redis实例
  • 通过发布与订阅功能, 将更新后的配置传播给所有其他 Sentinel , 其他 Sentinel 对它们自己的配置进行更新
  • 向已下线主服务器的从服务器发送SLAVEOF命令, 让它们去复制新的主服务器
  • 当所有从redis实例都已经开始复制新的主redis实例时, 领头Sentinel 终止这次故障迁移操作

其他

键空间通知

键空间通知使得客户端能够订阅Pub/Sub(发布/订阅)频道,这样客户端便能接收到以某种方式影响Redis数据集的事件。可能接收到的事件示例,如下所示:

  • 所有影响到一个给定键的命令
  • 所有接收到一个LPUSH命令的键
  • 所有数据库-0中的键全都过期

FAQ

危险命令及处理

redis中比较危险的命令有keys *; flushdb; flushall;,因为keys *会导致redis锁住且cpu占有量飙升,flushdb flushall会删除当前或者全部的数据库,处理方式为在redis.confsecurity部分重命名这些危险命令

# 禁用命令
renamed-command KEYS     ""
renamed-command FLUSHALL ""
renamed-command FLUSHDB  ""
renamed-command CONFIG   ""
# 命令重命名 将下面的 xxxxxxxxxxxxxxxxxxxxxxxx 换成随机字符串
renamed-command KEYS     "xxxxxxxxxxxxxxxxxxxxxxxx"
renamed-command FLUSHALL "xxxxxxxxxxxxxxxxxxxxxxxx"
renamed-command FLUSHDB  "xxxxxxxxxxxxxxxxxxxxxxxx"
renamed-command CONFIG   "xxxxxxxxxxxxxxxxxxxxxxxx"

编码

  • redis-cli --raw: 解决redis客户端中文编码显示问题

为什么单线程的redis比多线程的memcheched效率高

redis完全基于内存,单线程避免了上下文切换的性能消耗,多路复用非堵塞io

redis不能远程访问

  • Version 3.2之前:/etc/redis/redis.conf 下注释bind 127.0.0.1 ::1
  • Version 3.2之后:在上面的基础上,修改protected-mode no

⚠️ **GitHub.com Fallback** ⚠️