Appearance
Redis
1. 什么是Redis
Redis是完全开源免费的,遵守BSD协议,是一个高性能的Key-Value数据库。
Redis与其他Key-Value缓存产品有以下三个特点:
- Redis支持数据的持久化,可以将内存种的数据保存在磁盘种,重启的时候可以再次加载进行使用。
- Redis不仅仅支持简单的Key-Value类型的数据,同时还提供list、set、zset、hash等数据结构的存储。
- Redis支持数据的备份,即master-slave模式的数据备份。
Redis优势
- 性能极高-Redis能读的速度是110000次/秒,写的速度四81000次/秒。
- 丰富的数据类型- Redis支持二进制案例的Strings, Lists, Hashes, Sets及Ordered Sets数据类型操作。
- 原子 - Redis的所有操作都是原子性的,意思就是要么成功执行要么失败不执行。单个操作时原子性的。多个操作也支持事务,即原子性,通过MULTI和EXEC指令包起来。
- 丰富的特性 - Redis还支持publish/subscribe, 通知, key过期等等特性。
Redis与其他Key-Value存储有什么不同
- Redis有着更为复杂的数据结构并且提供对他们的原子性操作,这是一个不同于其他数据库的进化路径。Redis的数据类型都是基于基本数据结构的同时对程序员透明,无需进行额外的抽象。
- Redis运行在内存种但是可以持久化到磁盘,所以在对不同数据集进行高速读写时需要权衡内存,因为数据量不饿能大于硬件内存。在内存数据库方面的另一个优点是,相比在磁盘上相同的复杂的数据结构,在内存种操作起来非常简单,这样Redis可以做很多内部复杂性很强的事情。同时,在磁盘格式方面他们是紧凑的以追加的方式产生的,因为他们并不需要进行随机访问。
2. Redis的数据类型
Redis支持五种数据类型:string(字符串),hash(哈希),list(列表),set(集合)及zset(有序集合)
我们实际项目种比较常用的是string,hash。如果你是Redis中高级用户,还需要加上下面几种数据结构 HyperLogLog 、Geo、Pub/Sub。
如果你说你还玩过Redis Module,像BloomFilter, RedisSearch, Redis-ML。
3. 使用Redis有哪些好处
- 速度块,因为数据存在内存中,类似于HashMap, HashMap的优势就是查找和操作的时间复杂度都是O(1)
- 支持丰富数据类型,支持string, list, set, Zset, hash等
- 支持事务,操作都是原子性,所谓原子性就是对数据的更改要么全部执行,要么全部不执行。
- 丰富的特性,可用于缓存,消息, 按key设置过期时间,过期后将自动删除。
4. Redis相比Memcached有哪些优势
- Memcache所有的值均是简单的字符串,redis作为其替代者,支持更为丰富的数据类
- Redis的速度比Memcached快
- Redis可以持久化其数据
5. Memcached 与 Redis的区别都有哪些
存储方式 Memcached把数据全部存在内存之中,断电后会挂掉,数据不能超过内存大小。Redis有部分数据存在硬盘上,这样能保证数据的持久性。
数据支持类型 Memcache对数据类型支持相对简单。Redis有复杂的数据类型。
使用底层模型不同 它们之间底层实现方式以及客户端之间通信的应用协议不一样。Redis直接自己构建了VM机制,因为一般的系统调用系统函数的话,会浪费一定的时间去移动和请求。
6. Redis是单进程单线程的?
Redis是单进程单线程的,redis利用队列技术将并发访问变成串行访问,消除了传统数据库穿行控制的开销。
7. 一个字符串类型的值能存储的最大容量是多少
512M
8. Redis的持久化机制是什么?各自的优缺点
Redis提供两种持久化机制 RDB 和 AOP 机制:
1. RDB Redis Database持久化方式:
是指用数据集快照的方式半持久化模式记录Redis数据库的所有键值对,在某个时间点将数据写入一个临时文件,持久化结束后,用这个临时文件替换上次持久化的文件,达到数据恢复。
优点:
- 只有一个文件 dump.rdb, 方便持久化
- 容灾性号,一个文件可以保存到安全的磁盘
- 性能最大化,fork子进程来完成写操作,让主进程继续处理命令,所以是IO最大化。使用单独子进程来进行持久化,主进程不会进行任何IO操作,保证了redis的高性能。
- 相对于数据集大时,比AOF的启动效率高。
缺点:
- 数据安全性低。 RDB时间隔一段时间进行持久化,如果持久化之间redis发生故障,会发生数据丢失。所以这种方式更适合数据要求不严谨的时候。
2. AOF Append-only file 持久化方式
是指所有的命令行记录以redis命令请求协议的格式完全持久化存储,保存为aof文件。
优点:
- 数据安全,aof持久化可以配置appendfsync,有always,每进行一次命令操作就记录到aof文件中一次。
- 通过append模式写文件,即使中途服务器宕机,可以通过redis-check-aof工具解决数据一致性问题。
- AOF机制的rewrite模式。AOF文件没被rewrite之前(文件过大时会对命令进行合并重写),可以删除其中的某些命令(比如误操作的flushall)
缺点:
- AOF文件比RDB文件大,且恢复速度慢。
- 数据大的时候,比rdb启动效率低。
9. Redis常见性能问题和解决方案:
Master最好不要写内存快照, 如果Master写内存快照,save命令调度rdbSave函数,会阻塞主线程的工作,当快照比较大时对性能影响是非常大的,会间断性暂停服务
如果数据比较重要,某个Slave开启AOF备份数据,策略设置为每秒同步一次
为了主从复制的速度和连接的稳定性, Master和Slave最好在同一个局域网内
尽量避免在压力很大的主库上增加从库
主从复制不要用图状结构,用单向链表结构更为稳定,即:Master <- Slave1 <- Slave2 <- Slave3...这样的结构方便解决单点故障问题,实现Slave对Master的替换。如果Master挂了,可以立刻启用Slave1做Master,其他不变。
10. Redis过期键的删除策略
- 定时删除:在设置键的过期时间的同时,创建一个定时器(timer),让定时器在键的过期时间来临时,立即执行对键的删除操作。
- 惰性删除:放任键过期不管,但是每次从键空间中获取键时,都检查取得的键是否过期,如果过期的话,就删除该键,如果没有过期,就返回该键。
- 定期删除:每隔一段时间程序就对数据库进行一次检查,删除里面的过期键。至于要删除多少过期键,以及检查多少个数据库,则由算法决定。
11. Redis的回收策略(淘汰策略)
volatile-lru: 从已设置过期时间的数据集(server.db[i].expires)中挑选最近最少使用的数据淘汰。
volatile-ttl: 从已设置过期时间的数据集(server.db[i].expires)中挑选将要过期的数据淘汰
volatile-random: 从已设置过期时间的数据集(server.db[i].expires)中任意选择数据淘汰
allkeys-lru: 从数据集(server.db[i].dict)中挑选最近最少使用的数据淘汰
allkeys-random: 从数据集(server.db[i].dict)中任意选择数据淘汰
no-enviction: 禁止驱逐数据
注意这里的6种机制,volatile和allkeys规定了是对已设置过期时间的数据集淘汰数据还是从全部数据集淘汰数据,后面的lru、ttl以及random是三种不同的淘汰策略,再机上一种no-enviction永不回收的策略。
使用策略规则:
- 如果数据呈现幂律分布,也就是一部分数据访问频率高,一部分数据访问频率地,则使用allkeys-lru
- 如果数据呈现平等分布,也就是所有的数据访问频率都相同,则使用allkeys-random
12. 为什么Redis把所有数据放到内存中
Redis为了达到最快的读写速度将数据都读到内存中,并通过异步的方式将数据写入磁盘。
所以redis局右快速和数据持久化的特征。如果不将数据放在内存中,磁盘I/O速会严重影响redis的性能。
在内存越来越便宜的今天,redis将会越来越受欢迎。如果设置了最大使用内存,则数据已有记录数达到内存极限值后部能继续插入新值。
13. Redis的同步机制
Redis可以使用主从同步,从从同步。第一次同步时,主节点做一次bgsave,并同时将后续修改操作记录到内存buffer,待完成后将rdb文件全量同步到复制节点,复制节点接受完成后将rdb镜像加载到内存。加载完成后,再通知主节点将期间修改的操作记录同步到复制节点进行重放就完成了同步过程。
14. Pipeline有什么好处,为什么要用Pipeline
可以将多次IO往返的时间缩减为1次,前提是pipeline执行的指令之间没有因果相关性。使用redis-benchmark进行压测的时候可以发现影响redis的QPS峰值的一个重要因素是pipeline批次指令的数目。
15. Redis集群的原理是什么
- Redis Sentinal着眼于高可用,在master宕机时会自动将slave提升为master,继续提供服务
- Redis Cluster着眼于扩展性,在单个redis内存不足时,使用Cluster进行分片存储。
16. Redis集群方案什么情况下会导致整个集群不可用
有A,B,C三个节点的集群,在没有复制模型的情况下,如果节点B失败了,那么整个集群就会以为缺少5501-11000这个范围的槽而不可用。
17. Redis支持的Java客户端有哪些,官方推荐哪个
Redisson、Jedis、lettuce等,官方推荐使用Redisson
18. Jedis和Redisson有什么优缺点
Jedis是Redis的Java实现的客户端,其API提供了比较全面的Redis命令支持;Redisson实现了分布式和可扩展的Java数据结构,和Jedis相比,功能较为简答,不支持字符串操作,不支持排序、事务、管道、分区等Redis特性。
Redisson的宗旨是促进使用者对Redis的关注分离,从而让使用者能够将精力更集中地放在处理业务逻辑上。
19. Redis如何设置密码和验证密码
设置密码:config set requirepass 123456
授权密码:auth 123456
20. Redis哈希槽的概念
Redis集群没有使用一致性hash,而是引入了哈希槽的概念,Redis集群有16384个哈希槽,每个key通过CRC16校验后对16384取模来决定放置哪个槽,集群的每个节点负责一部分hash槽。
21. Redis 主从复制模型是怎样的
为了使在部分节点失败或者大部分节点无法通信的情况下集群仍然可用,所以集群使用了主从复制模型,每个节点都会有N-1个复制品。
22. Redis集群会有写操作丢失吗?为什么
Redis并不能保证数据的强一致性,这意味着在实际中集群在特定的条件下可能会丢失写操作。
23. Redis集群之间如何复制
异步复制
24. Redis集群最大节点个数
16384个
25. Redis集群如何选择数据库
Redis集群目前无法做数据库选择,默认在0数据库。
26. 怎么测试Redis连通性
ping
27. 怎么理解Redis事务
- 事务是一个单独的隔离操作:事务中的所有命令都会序列化、按顺序地执行。事务在执行的过程中,不会被其他客户端送来的命令请求所打断。
- 事务是一个原子操作:事务中中的命令要么全部被执行,要么全部都不执行。
28. Redis事务相关的命令有哪几个
MULTI、EXEC、DISCARD、WATCH
29. Redis key的过期时间和永久有效分别怎么设置
EXPIRE和PERSIST命令
30. Redis如何做内存优化
尽可能使用散列表(hashes),散列表(是说散列表里面存储的数少)使用的内存非常小,所以你应该尽可能的将你的数据模型抽象到一个散列表里面。
比如你的web系统中有一个用户对象,不要为这个用户的名称,姓氏,邮箱,密码设置单独的key,而是应该把这个用户的所有信息存储到一张散列表里面。
31. Redis回收进程如何工作
一个客户端运行了新的命令,添加了新的数据。Redis检查内存使用情况,如果大于maxmemory的限制,则根据设定好的策略进行回收。一个新的命令被执行,等等。
所以我们不断地穿越内存限制的边界,通过不断达到边界然后不断地回收回到边界以下。如果一个命令的结果导致大量内存被使用(例如很大的集合的交集保存到一个新的键),不用多久内存限制就会被这个内存使用量超越。
32. 有哪些办法降低Redis内存使用情况
如果你使用的是32位的Redis实例,可以好好利用Hash,List,sorted set,set等集合类型数据,因为通常情况下很多小的key-value可以用更紧凑的方式存放到一起。
33. 内存用完发生了什么
如果达到设置的上限,Redis的命令会返回错误信息(但是读命令还可以正常返回。)或者你可以将Redis当缓存来使用配置淘汰机制,当Redis达到内存上限时会冲刷掉旧的内容。
34. 一个Redis实例最多能存放多少的keys?List、Set、Sorted Set他们最多能存放多少元素
理论上Redis可以处理躲到2的32次方的keys,并且在实际中进行了测试,每个实例至少存放了2亿5千万的keys,我们正在测试一些较大的值。任何list、set和sorted set都可以放2的32次方个元素。换句话说,Redis的存储极限是系统中的可用内存值。
35. MySQL中有2000W条数据,Redis中只存20W数据,如何保证Redis中的数据都是热点数据
Redis内存数据集大小上升到一定大小的时候,就会施行数据淘汰策略。
Redis提供6中数据淘汰策略:
volatile-lru: 从已设置过期时间的数据集(server.db[i].expires)中挑选最近最少使用的数据淘汰
volatile-ttl: 从已设置过期时间的数据集(server.db[i].expires)中挑选将要过期的数据淘汰
volatile-random:从已设置过期时间的数据集(server.db[i].expires)中任意选择数据淘汰
allkeys-lru: 从数据集(server.db[i].dict)中挑选最近最少使用的数据淘汰
allkeys-random: 从数据集(server.db[i].dict)中任意选择数据淘汰
no-enviction(驱逐): 禁止驱逐数据
36. Redis最适合的场景
- 会话缓存(Session Cache)
最常用的一种使用Redis的情景是会话缓存(session cache).
用Redis缓存会话比其他存储(如 MeMcached)的优势在于:Redis提供持久化。当维护一个不是严格要求一致性的缓存时,如果用户的购物车信息全部丢失,大部分都会不高兴的,现在,他们还会这样吗?幸运的是,随着Redis这些年的改进,很容易找到怎么恰当的使用Redis来缓存会话的文档。甚至广为人知的商业平台Magento也提供Redis的插件。
- 全页缓存(FPC)
除基本的会话token之外,Redis还提供很简便的FPC平台。回到一致性问题,几十重启了Redis实例,因为有磁盘的持久化,用户也不会看到页面加载速度的下降,这是一个极大的改进,类似于PHP本地FPC。再次以Magento为例,Magento提供一个插件来使用Redis作为全页缓存后端。此外,对于WordPress的用户来说,Pantheon有一个非常好的插件wp-redis,这个插件能帮助你以最快速度加载你曾浏览过的页面。
- 队列
Redis在内存存储引擎领域的一大优点是提供list和set操作,这使得Redis能作为一个很好的消息队列平台来使用。Redis作为队列使用的操作,就类似于本地程序语言(如Python)对list的push/pop操作。如果你快速的在Google中搜索Redis queues,你马上就能找到大量的开源相貌,这些相貌的目的就是利用Redis创建非常好的后端工具,以满足各种队列需求。例如,Celery有一个后台就是使用Redis作为broker,你可以从这里去查看。
- 排行榜/计数器
Redis在内存中对数字进行递增或递减的操作实现的非常好。集合(Set)和有序集合(Sorted Set)也使得我们在执行这些操作的时候变得非常简单,Redis只是正好提供了这两种数据结构。所以,我们要从排序集合中获取到排名最靠前的10个用户-我们称之为“user_scores",我们只需要乡下面一样执行即可:当然,这是假定你是根据你用户的分数做递增的排序。如果你想返回用户及用户的分数,你需要这样执行:ZRANGE user_scores 0 10 WITHSOCRES. Agora Games就是一个很好的例子,用Ruby实现的,它的排行榜就是使用Redis来存储数据的,你可以在这里看到。
- 发布/订阅
最后(但肯定不是最不重要的)是Redis的发布/订阅功能。发布/订阅的使用场景确实非常多。我已看见人们在社交网络连接中使用,还可以为基于发布/订阅的脚本触发器,甚至用Redis的发布/订阅功能来建立来聊天系统。
37. 假如Redis中有一亿个Key,其中有10W个key是以某个固定的已知的前缀开头的,如何将他们全部找出来
使用keys指令可以扫出指定模式的key列表。
如果这个redis正在给线上的业务提供服务,那是用keys指令会有什么问题?
redis是单线程的。keys指令会导致线程阻塞一段时间,线上服务器会停顿,直达指令执行完毕,服务才能恢复。
这个时候可以使用scan指令,scan指令可以无阻塞的提取出制定模式的key列表,但是会有一定的重复概率,在客户端做一次去重就可以了,但是整体所花费的时间会比直接用keys指令长。
38. 如果有大量的key需要设置同一时间过期,一般要注意什么
如果大量的key过期时间设置的过于集中,到过期的那个时间点,redis可能会出现短暂的卡顿现象。一般需要在时间上加一个随机值,使得过期时间分散一些。
39. Redis做异步队列,怎么做
一般使用list结构作为队列,rpush生产消息,lpop消费消息。当老婆婆没有消息的时候,要适当sleep一会再重试。
可不可以不用sleep呢
list还有个指令交blpop,在没有消息的时候,他会阻塞住直达消息到来。
能不能生产一次消费多次呢?
使用pub/sub主题订阅者模式,可以实现1:N的消息队列。
pub/sub有什么缺点?
在消费者下线的情况下,生产的消息会丢失,得使用专业的消息队列如RabbitMQ等
如何实现延时队列
使用Sorted set,拿时间戳作为score,消息内容作为key调用zadd来生产消息,消费者用zrangebyscore指令获取N秒之前的数据轮询进行处理
40. Redis分布式锁是怎么回事
先拿setnx来争抢锁,抢到之后,再用expire给锁加一个时间防止锁忘记了释放。
如果在 setnx 之后执行expire之前进程意外crash或者要重启维护了,会怎么样?
这是后锁就永远得不到释放了,set指令有非常复杂的参数,这个应该是可以同时把setnx和expire合成一条指令来用