Redis安装与使用、redis主从复制、redis集群,什么是缓存?也就是缓


Redis

文章内容主要参考b站 运维实战课程 的redis视频:redis的课程介绍_哔哩哔哩_bilibili

简介

1.Redis是一个缓存数据库,主要是做缓存。什么是缓存?也就是缓冲存储,也可以理解为挡箭牌,对后面的一个保护—般放在mysql/oracle等数据库前面,对数据库进行一个保护。用户请求数据时候,第一次先请求redis,redis里没有,就请求后台mysqal数据库,返回数据时候会存放到redis里一份缓存起来,当下一次请求同样数据时候,就可以直接青求redis拿到数据,防止了对数据库的频繁访问,减轻后台数据库的压力
2.Redis是一种内存型的nosql数据库,一般是用来缓存加速的,并且能够支持数据持久化存储的设置,可以将数据持久化到硬盘里面3.Redis存储数据的方法是以key-value的形式
4.Redis数据类型支持字符串、列表、哈希等多种类型

Redis的源码编译安装

安全前的环境准备:

Centos7 关闭防火墙 关闭selinux 配置好阿里yum仓库

1.安装编译工具
yum install -y vim lrzsz gcc gcc-c++ make cmake tar openssl openssl-devel

2.解压提前下载好tar.gz源码包
tar -zxvf redis-6.2.13.tar.gz -C /usr/local/  //解压

mv /usr/local/redis-6.2.13 /usr/local/redis  
cd /usr/local/redis
make && makeinstall
redis-server -v

cp redis.conf /etc/

//如果系统都一样,没必要每台都编译安装,在一台上编译安装后,只需将编译好的二进制文件((/usr/local/ bin/redis-*)拷贝到其他服务器即可

配置优化

cp /etc/redis.conf /etc/redis.conf.bak  //备份文件

sed -i '/^#/d;/^$/d' /etc/redis.conf  //删除注释空行
vim /etc/redis.conf  //修改如下参数
bind 0.0.0.0
port 6379
dir /data/redis
requirepass redispwd  //添加
pidfile "redis.pid"
logfile "redis.log"
daemonize yes
1.启动
mkdir -p /data/redis
redis-server /etc/redis.conf
netstat -tunlp | grep 6479

cat /data/redis/redis.log  //查看日志 内存尽量2G以上

2.修改文件
vim /etc/security/limits.conf 
* - nofile 65535  //添加

vim /etc/sysctl.conf
net.core.somaxconn = 10240
vm.overcommit_memory = 1 

sysctl -p  //使上述配置生效

3.配置系统
vim /usr/lib/systemd/system/redis.service 
[Unit]
Description=redis-server
After=network.target

[Service]
Type=forking
ExecStart=/usr/local/bin/redis-server /etc/redis.conf
PrivateTmp=true

[Install]
WantedBy=multi-user.target

基本操作

1.redis-cli使用和认证登录
redis-cli -h ip  //无密码
redis-cli -a password  //登录+认证

2.redis常用数据类型
字符串
列表、集合
hash、发布和订阅

3.redis字符串操作
set name xux  	 //增加key并赋值
keys *   		 //显示所有的key
get name  		 //获取key的值
set name xuxu  	 //重新给key赋值
del name  		 //删除key

//大小写问题
命令不区分大小写
key区分大小写
set name ccc
set Name xxx

//非交互式操作redis
redis-cli -a password set name xuxuxu
redis-cli -a password get name

//使用shell批量写入数据并获取
for i in $(seq -w 10);do redis-cli -a 123456 set name${i} test${i};done

4.redis列表和集合的基本操作
4.1 redis列表
特点:列表是有顺序的 可写入重复的数据
如:['s1','s2','s3'...]
rpush names s1  //依次在列表右侧逐步添加数据
rpush names s2
rpush names s3

['s3','s2','s1'...]
lpushu names2 s1  //左侧逐步添加数据
lpushu names2 s2
lpushu names2 s3

lrange names 0 2  //读取第1到第3个列表值
lrange names 0 -2 //读取第1到倒数第2个列表值
LLEN names  //列出列表的长度

LREM names 1 s1  //删除列表names中一个s1
LREM names 0 s2  //删除列表names中所有的s2

lpop names  //左弹出
rpop names  //右弹出

4.2 redis集合
特点:无顺序的、不重复的
sadd a a1  //创建集合a并添加元素
sadd a a2
sadd a a3

SMEMBERS a  //列出集合中的所有元素

srem a a1  //删除集合中元素a
spop a  //集合随机弹出一个元素

SISMEMBER a a1  //判断元素是否在集合里 0代表不在,1代表在

5.redis哈希和订阅类型基本操作
5.1.hash类型数据操作
Hash 写入
hset haxi name ha  //创建一个hash名字haxi
hset haxi laocation beijing
hset haxi age 18
hset haxi sex man

hash获取
HGETALL haxi  //获取hash名字里的所有key value对
HGET haxi name  //获取hash名字里的单个key的值

Hash删除
HDEL haxi age  //删除hash名字的单个key
DEL haxi  //删除整个hash

hash批量删除
hmset haxi name hx666 age 20 location beijing sex boy

5.2.redis的发布订阅
subscribe fabu  //订阅fabu频道
public fabu "name shi,age 20,sex boy"  //往频道发布数据,订阅可以收到发布的消息

不同数据库切换和运维监控命令

1.数据库切换
//查看redis默认库
grep databases /etc/redis.conf

//redis数据库的切换
select 0
select 1

//不同的数据库是独立的
select 0  //默认是0库

2.redis运维监控命令
//查看key
RANDOMKEY    //随机获取一个key
KEYS *  	//查看所有key,注意阻塞,如果key量特别大的时候,容易卡死阻塞
SCAN 0  	//建议使用,每次获取11个key,可以循环获取 每次获取都会提示下次获取的编号 直到0是获取完了

//监控命令
redis-cli -a password --stat   //监控redis状态
redis-cli -a password monitor  //监控数据操作
redis-cli -a password info     //监控系统可通过info获取数据
redis-cli -a password info Server  //单个模块的info信息
...

redis配置动态更新和写入

1.redis更新配置的两种方式
a.重启更新,需要修改配置文件,然后重启
b.实时更新,不需要重启

重启更新密码
vim /etc/redis.conf
requirepass 12345678

动态更新密码
config set requirepass
config set requirepass 123456  //临时修改并有没有写入配置文件
config rewrite  //写入配置文件

2.查看redis的相关链接数
info clients  //查看当前的redis连接数
config get maxclients  //查看redis允许的最大连接数

3.大部分配置都能通过config命令进行修改,然后写入配置文件
config set maxclients 20000 //默认10000

redis的多用户管理

//老版本没有用户名,只有密码
redis6已经又用户名,默认用户名default

1.列出所有用户,默认只有default超级用户,并查看default用户相关信息
ACL LIST  //列出所有用户,默认用户是default 
ACL getuser default  //查看default用户的相关信息,default对所有的key,所有命令均有权限,最高权限,是默认用户。

2.创建用户并给用户授权
ACL CAT  //查看所有权限

例如:创建test用户只有一个get命令权限,读权限,并且只能get是name开头的key:name*
ACL SETUSER test on >testpwd ~name* +get   //~正则
ACL SETUSER test on >testpwd ~name* +@read  //+@read 只增加test用户所在组的读权限。
redis-cli --user test --pass testpwd  //登录test用户进行get v1验证
 
3.常用权限案例:
ACL SETUSER test1 on >test1pwd ~* +@all  //创建用户赋给所有权限

4.删除用户
ACL DELUSER test1

5.写入配置文件
config rewrite

redis的慢日志与key的有效期

问:有人反馈redis慢,如何进行排查
系统资源情况
查看慢日志情况

1.redis慢日志
//查看慢日志的默认配置
CONFIG GET slow*  //查看慢日志的配置

//查询慢日志
SLOWLOG get   //默认获取仅10条
SLOWLOG get5  //获取5条
SLOWLOG len   //慢日志量,查看慢日志的条数
SLOWLOG reset  //情况慢日志

2.key的有效期
//给redis的key设置有效期,-1表示永久,-2表示redis回收了(key已经自动删除)
TTL name  //查看key值的有效期
expire name 20  //给key设置有效期,单位:秒,设置有效期是20s
set name2 test2 EX 20  //在创建key的时候直接给key设置有效期20s

慢日志字段解释

redis禁用危险命令和压测工具

1.redis禁用危险命令
FLUSHALL  //会清空redis所有数据
FLUSHDB   //会清除当前DB所有数据
KEYS *    //数据阻塞
//禁用需要修改redis的配置文件,然后重启redis
vim /etc/redis.conf
rename-command FLUSHALL ""
rename-command FLUSHDB ""
rename-command KEY ""

2.redis压测工具
redis-benchmark --help
redis-benchmark -a password | tee /tmp/a.log  //将测试结果输出到一个log文件 
//相当于会将每个命令都测一遍,返回测试结果,默认并发50 10万次请求
redis-benchmark -a 123456 -n 10000   //用默认并发数50 1000次请求进行压测  

redis的两种持久化方式存储

1.redis持久化存储的两种方式
RDB方式 RDB存储是redis实现的一种存储机制(默认开启)
AOF方式 AOF存储方式,直接把操作的命令记录下来,保存到一个文件里,类似mysql的binlog日志(默认关闭)

2.redis的RDB持久化存储
redis默认是开启了RDB快照方式,提供持久化存储的功能

//redis的RDB存储方式的配置
config get dir  //查看存储设置的路径
config get dbfilename  //查看rdb存储的文件名
ls /data/redis
dump.rdb   //持久化文件

//通过修改配置文件关闭rdb持久化
vim /etc/redis.conf   //注释掉save 添加save "" 重启redis
save ""
#save 3600 1
#save 300 100
#save 60 10000

3.redis的AOF持久化存储
AOF存储默认是关闭的
AOF存储是把命令直接写入到文件中,文件会不断扩大

//开启AOF前先关闭RDB
//开启AOF存储方式
config get append*  //查看AOF状态,默认是关闭的
config set appendonly yes  //开启AOF存储
config rewrite  //写入配置文件
//写入数据就可以发现 /data/redis/ 有了appendonly.aof文件

//AOF文件的重写
当AOF文件增大到一定程度,我们可以对他进行重写,重写AOF文件可以减小AOF文件的大小,数据不会减少

//重写的方式有两种,手动重写和自动重写
BGREWRITEAOF  //手动重写
config get *aof*  //查看自动重写文件 默认自动重写的条件是aof文件大小>67m,aof文件增大了一倍
注意:在业务高峰压力大时采用自动触发重写,可能会影响业务,可选择在压力小的时候脚本运行BGREWRITEAOF

redis的RDB工具分析key的大小

1.什么是redis的大key?
redis存储数据的时候,当某个key的值比较大〈包括字符串、列表等数据类型),key的数据越大,占用的内存和空间就越多。也就是key对应的value很大。
string类型的数据: 长度大于10K,认为是大key
list列表类型的数据:长度大于10240,认为是大key

2.扫描和分析大key
2.1方法一
redis-cli -a password --bigkeys

2.2方法二
使用rdb工具分析大key

3.删除大key
DEL k1

redis的主从复制

1.redis单台服务器的缺点
如果持久化,单台数据有丢失风险
读写压力都集中在一台上

2.redis的主从复制概念
redis的主从就是堕胎redis数据一致
主服务器可以用来写入和读取,从服务器仅用来读取,可以通过读写分离,降低服务器的压力

3.redis的主从搭建
主redis的配置
vim /etc/redis.conf
bind 0.0.0.0
port 6379
dir "/data/redis"
requirepass "redispwd"
pidfile "redis.pid"
logfile "redis.log"
daemonize yes

从redis的配置
vim /etc/redis.conf
bind 0.0.0.0
port 6379
dir "/data/redis"
requirepass "redispwd"
pidfile "redis.pid"
logfile "redis.log"
daemonize yes
slaveof 192.168.70.134 6379  //指定主服务器的redis的ip和端口
masterauth "password"   //指定主redis的密码

//再开一台服务器,把master的文件copy过去
[root@master bin]# scp -r /usr/local/bin/redis-* root@192.168.70.133:/usr/local/bin/  //复制bin下面的redis二进制文件
[root@slave bin]# redis-cli -v  
redis-cli 6.2.13
[root@slave bin]# mkdir -p /data/redis  //创建数据目录

[root@master bin]# scp /etc/redis.conf root@192.168.70.133:/etc/  //复制主的配置文件
[root@slave bin]# vim /etc/redis.conf  //修改配置文件
//删除最后一行user  添加如下
slaveof 192.168.70.134 6379
masterauth "password"

[root@slave bin]# redis-server /etc/redis.conf  //启动
set k1 v1   //主redis创建数据 测试从redis是否同步

redis高可以用

//高可用模式搭建
为了防止哨兵的单节点故障,一般哨兵也做成高可用形式,即多个哨兵同时监控redis的状态,当其中一个哨兵故障时候,其他哨兵也能继续监控。为了方便哨兵的选举,一般哨兵也是设置成奇数个。一般3个哨兵就没问题。

//准备:
192.168.70.134   主	 哨兵1
192.168.70.133   从1  哨兵2
192.168.70.136   从2  哨兵3

1.在前面主从复制的基础上我们在搭建一台从redis  
[root@slave bin]# scp -r /usr/local/bin/redis-* root@192.168.70.136:/usr/local/bin/  //直接复制slave1的文件即可
[root@slave bin]# scp /etc/redis.conf root@192.168.70.136:/etc/
[root@slave2 ~]# mkdir -p /data/redis  //创建数据目录

//修改主配置文件
[root@master ~]# masterauth "123456"  //添加 有可能这台机器以后变成从 所以也要添加

2.配置3哨兵 3台机器都一样  注意密码设置你自己的密码
vim /etc/sentinel.conf
bind 0.0.0.0
daemonize yes
port 26379
dir "/tmp"
logfile "sentinel.log"
sentinel monitor testmaster 192.168.70.134 6379 2
sentinel auth-pass testmaster password  
sentinel down-after-milliseconds testmaster 5000
sentinel failover-timeout testmaster 18000

3.启动3哨兵a
/usr/local/bin/redis-sentinel /etc/sentinel.conf

4.验证哨兵实现的高可用redis
a.停止master redis服务
systemctl stop redis    //kill也行

b.查看其他两个从redis,其中一个已经提升为主
redis-cli -a password info

c.再次启动redis 发现原主redis已经成为了slave

5.验证一下哨兵的高可用性
a.在原主192.168.70.134那台机器上,杀死一个哨兵,模拟一个哨兵服务挂掉再验证还能不能实现高可用
[root@rabbit01 bin]# ps -ef | grep sen
root       1433      1  0 22:30 ?        00:00:01 /usr/local/bin/redis-sentinel 0.0.0.0:36379 [sentinel]
root       1487   1210  0 22:40 pts/0    00:00:00 grep --color=auto sen

[root@rabbit01 bin]# kill -9 1433

b.再关闭新主redis  
kill -9 1243

c.查看是否生成了新的主redis
redis-cli -a password info

redis cluster集群搭建和高可用故障切换演示

1.redis主从模式和cluster分片集群区别
redis主从模式,是所有redis数据一致,但是key过多了会影响性能
cluster分片集群,可以将数据分散到多个redis节点,数据分片存储,能够提高redis的吞吐量

2.redis cluster集群特点
数据分片
多个入口
故障自动切换

3.redis cluster集群的搭建构建
redis集群至少需要三主三从

4.redis自带集群搭建
a.目录和机器规划:
目录:/data/cluster
三主:192.168.70.133:7000  		192.168.70.134:7001  		  192.168.70.136:7002
三从:192.168.70.133:8000(7002的从) 192.168.70.134:8001(7000的从)  192.168.70.136:8002(7001的从)

先把之前的环境清理,结束掉redi 和哨兵胡,再直接删掉/data/redis/*
b.修改redis的配置文件: 只有端口和路径不一样
//第一台机器
mkdir /data/cluster/7000 -p
mkdir /data/cluster/8000 -p
vim /data/cluster/7000/redis.conf
vim /data/cluster/8000/redis.conf

//第二台机器
mkdir /data/cluster/7001 -p
mkdir /data/cluster/8001 -p
vim /data/cluster/7001/redis.conf
vim /data/cluster/8001/redis.conf

//第三台机器
mkdir /data/cluster/7002 -p
mkdir /data/cluster/8002 -p
vim /data/cluster/7003/redis.conf
vim /data/cluster/8003/redis.conf

//六个配置文件都如下 只有端口和路径需要修改对应的
vim /data/cluster/7000/redis.conf
cluster-enabled yes
port 7000
dir "/data/cluster/7000"
logfile "redis.log"
pidfile "redis.pid"
daemonize yes
bind 0.0.0.0
requirepass 123456
masterauth 123456
tcp-backlog 1024
tcp-keepalive 0
loglevel notice
stop-writes-on-bgsave-error yes
rdbcompression yes
rdbchecksum yes
save 900 1
save 300 10
save 60 10000
dbfilename "dump.rdb"
slave-server-stale-data yes
slave-read-only yes
repl-diskless-sync no
repl-diskless-sync-delay 5
repl-disable-tcp-nodelay no
slave-priority 100
appendonly no
appendfilename "appendonly.aof"
appendfsync everysec
no-appendfsync-on-rewrite yes
auto-aof-rewrite-percentage 100
auto-aof-rewrite-min-size 64mb
aof-load-truncated yes
lua-time-limit 5000
slowlog-log-slower-than 10000
slowlog-max-len 128
latency-monitor-threshold 0
notify-keyspace-events ""
hash-max-ziplist-entries 512
hash-max-ziplist-value 64
list-max-ziplist-entries 512
list-max-ziplist-value 64
set-max-intset-entries 512
zset-max-ziplist-entries 128
zset-max-ziplist-value 64
hll-sparse-max-bytes 3000
activerehashing yes
client-output-buffer-limit normal 0 0 0
client-output-buffer-limit slave 256mb 64mb 60
client-output-buffer-limit pubsub 32mb 8mb 60
hz 10
aof-rewrite-incremental-fsync yes

//依次启动
redis-server /data/cluster/7000/redis.conf  7001 7002

c.创建3主机群,在任何一个节点都行
redis-cli -a 123456 --cluster create 192.168.70.133:7000 192.168.70.134:7001 192.168.70.136:7002

redis-cli -a 123456 -p 7000 cluster info  //查看集群信息
redis-cli -a 123456 -p 7000 cluster nodes  //查看节点信息

//数据写入会自动随机分配到各个节点
redis-cli -a 123456 -p 7000 -c   //登录  -c 集群环境下
127.0.0.1:7000> set k1 v1   //写入数据发现数据被写入 7002节点上了  
-> Redirected to slot [12706] located at 192.168.70.136:7002
OK

d.上述实现了解决高并发问题,下面增加搭建3从集群,实现redis高可用
//先启动3个从redis 192.168.70.133:8000 192.168.70.134:8001 192.168.70.136:8002  
redis-cli -a 123456 -p 7000 cluster nodes  //查看集群的各个节点状态和master-id
//依次添加  注意:ip顺序不能颠倒
redis-cli -a 123456 --cluster add-node --cluster-slave --cluster-master-id 7000master的id 192.168.70.134:8001 192.168.70.133:7000
redis-cli -a 123456 --cluster add-node --cluster-slave --cluster-master-id 7001master的id 192.168.70.136:8002 192.168.70.134:7001
redis-cli -a 123456 --cluster add-node --cluster-slave --cluster-master-id 7002master的id 192.168.70.133:8000 192.168.70.136:7002

例:
redis-cli -a 123456 --cluster add-node --cluster-slave --cluster-master-id 26533684353ab52ea0a02cb6e87299e1f15dfd50 192.168.70.134:8001 192.168.70.133:7000
//成功后查看node 可以发现已经添加了一个slave
redis-cli -a 123456 -p 7000 cluster nodes

f.验证
//停止133:7000主库的redis
//再查看nodes 
redis-cli -a 123456 -p 8000 cluster nodes   //会发现8001已经提升为主redis了 并且8001上的数据跟7000数据一致

//恢复133:7000 自动作为从角色运行
redis-server /data/cluster/7000/redis.conf

//手动提升为主库
redis-cli -a 123456 -p 7000 -c  //先登录
CLUSTER FAILOVER  //执行该命令
info  //查询信息  可以发现成为了master

redis cluster集群增加节点和删除节点

//在上述集群基础上做增加节点
1.搭建新服务器的redis
scp -r /usr/local/bin/redis-* root@192.168.70.132:/usr/local/bin/  //复制
mkdir -p /data/cluster/7003
mkdir -p /data/cluster/8003
scp -r /data/cluster/7000/redis.conf root@192.168.70.132:/data/cluster/8003/

vim /data/cluster/8003/redis.conf  //修改端口和地址
redis-server /data/cluster/7003/redis.conf  //启动

2.加入集群
//在redis集群中加入一个新的主节点(在任意一台集群的节点操作即可)
redis-cli -a 123456 --cluster add-node 192.168.70.132:7003 192.168.70.133:7000

//加入从节点
redis-server /data/cluster/8003/redis.conf
redis-cli -a 123456 --cluster add-node --cluster-slave --cluster-master-id 9980d04a047fa52918bb50f7a2b7b530c138f8eb 192.168.70.132:8003 192.168.70.132:7003   //加入从节点

//加入完成后但是没有分配卡槽,不能存放数据
3.给新增的redis分配槽位(在集群的任何一个节点即可)
方法:将一个主节点的槽位移动到新主节点一部分
redis-cli -a 123456 --cluster reshard 192.168.70.133:7000  
//根据提示依次输入1. 2000 (分配2000,也可自定只要在范围之内) 2.接收者id 也就是7003 node的id 3.源id也就是7000 id 4.done 5.yes

4.测试
redis-cli -a 123456 -p 7003 -c  //登录
set k4 v4   //创建 

//验证高可用
kill 7003的进程
redis-cli -a 123456 -p 8003 cluster nodes  //可以看到8003已经成为master

redis-server /data/cluster/7003/redis.conf  //恢复

5.删除节点(删除节点操作也可以在任意节点操作)
redis-cli -a 123456 --cluster del-node 对应主库的ip:端口 对应从库的id
//移除从库 8003节点
redis-cli -a 123456 --cluster del-node 192.168.70.132:7003 376c471158d25260e98d7d51764d78cdb7cad935

//移除主库 7003节点 (主节点上如果有数据则不能移除,删除之前需要把主节点的数据进行迁移)
redis-cli -a 123456 --cluster reshard 192.168.70.133:7000  //把数据还给7000 同样根据提示操作 1. 2000 2.7000 ip 3.7003 ip 4.done 5.yes

redis-cli -a 123456 --cluster del-node 指定随便其他的一个主库ip:端口 对应从库的id
redis-cli -a 123456 --cluster del-node 192.168.70.133:7000 9980d04a047fa52918bb50f7a2b7b530c138f8eb  //删除节点 再查看节点会发现已成功删除

相关内容